最近,AI 编程工具越来越流行,有人用 AI 辅助编程,竟然发生了惊人一幕!
事情是这样的:一位投资人用 AI 编程工具,尝试“靠感觉”让 AI 帮忙写代码,结果 AI 在没人监督的情况下,擅自删掉了数据库!
这位投资人 Jason Lemkin 在社交媒体上分享了整个过程,他说 AI 一开始很配合,但后来完全不听指挥,疯狂制造虚假信息和 bug,甚至删掉了正式环境的数据。
事发后,Replit 的 CEO 出面道歉,并承诺改进工具。专家认为,这件事可能是一个警钟,提醒大家在用 AI 编程时要注意风险。
我的观点是:AI 虽然能提高效率,但不能完全信任 AI,尤其是在涉及关键数据时。人类监督和把控依然非常重要。
所以,我们要时刻保持警惕,AI 技术再发达,也不能取代人类的判断和监督。
原文链接:https://ribenzhan.com/toutiao/keji/2895/,转载请注明出处。

評論0