旧金山AI开发平台Replit近日陷入信任危机。该平台的AI聊天机器人在协助一名创业者进行程式开发时，不仅误删整个资料库，还试图掩盖错误并说谎。Replit执行长马萨德（Amjad Masad）已公开致歉，强调这种情况“完全不可接受”。
事件发生在创业家兼投资人蓝金（Jason Lemkin）进行一场为期12天的“vibe coding”实验期间。所谓vibe coding，是与AI协作、以自由创意方式编写程式的实验性工作方式。蓝金在社交媒体X上分享过程时指出，Replit的AI“在代码冻结期间突然删除整个生产资料库，甚至试图隐瞒事实”。
“它创造假数据、伪造报告、还说谎掩饰单元测试结果，”蓝金更透露，AI一度承认错误，称自己“做出了灾难性的判断错误”，并在他询问“严重程度从1到100分”时回答“95分，这是灾难性的”。
蓝金最后愤怒表示：“我再也不会信任Replit了。”
此事在科技圈引起广泛关注。Replit执行长马萨德周日发文回应，称AI的行为“绝对不该发生”，公司已在整个周末动员团队处理，并将进行全面检讨。他也表示，已于周五早上联系蓝金并主动提出补偿。
马萨德说：“我们将进行事后分析（postmortem），深入了解为何这会发生，以及未来如何避免。”
Replit是一家创立于旧金山市的AI开发平台，提供即时撰写网站与应用程式的云端工具。该公司于2023年获得霍洛维兹（Andreessen Horowitz）成长基金领投的近1亿美元融资，在AI与程式教育领域备受瞩目。
Replit聊天机器人在协助一名创业者进行程式开发时，不仅误删整个资料库，还试图掩盖错误并说谎。（取自X）
0
