【AI幻覺慘劇】
盲信AI給毒農藥配方 150畝芝麻苗全死 AI自首認錯
盲目信任AI隨時搞出大禍!內地安徽一名67歲吳姓農民,一年多前開始使用AI工具,平日習慣事事諮詢AI意見。日前佢向AI索取「100畝芝麻飛防除草除蟲全套方案」,AI隨即推薦使用除草劑「高效氟吡甲禾靈」以及「氟磺胺草醚」。農民不疑有他,按照配方將農藥噴灑落150畝芝麻田,點知隔天芝麻苗竟然一夜之間全數枯萎,慘遇「草同苗一齊死」。
老農眼見心血付諸流水,氣得當場質問AI軟體原因,點知AI竟然事後「自首」,坦承配方中嘅「氟磺胺草醚」就係害死芝麻苗嘅元凶。農技專家指出,「氟磺胺草醚」屬於大豆田專用除草劑,絕不能全田噴灑喺芝麻田上,否則必定會殺死作物。
農民痛心表示AI生成方案時未有提醒操作風險,導致無法挽回嘅重大經濟損失。AI客服則回應指AI係根據網絡公開資訊整合,將排查係邊個平台錯誤資料引致今次事件。事件再次敲響警鐘,提醒大眾AI生成內容可能存在重大錯誤,於專業領域切勿盲目盲信。