Доверяй, но проверяй Китайский фермер доверился ИИ и за сутки уничтожил 10 гектаров кунжута. 67-летний мужчина успешно пользовался агро-нейросетью целый год — алгоритм регулярно выдавал точные советы, поэтому фермер расслабился. Когда на кунжутном поле появились сорняки и вредители, ИИ предложил особую смесь химикатов. Фермер не посоветовался с агрономом и не проверил раствор на небольшом участке — сразу обработал все десять гектаров. За сутки вместе с сорняками погиб весь урожай кунжута. ИИ посоветовал мощный химикат фомесафен, но забыл уточнить, что кунжут биологически уязвим для этой смеси точно так же, как и сорняк, который нужно было вытравить. Самое время напомнить, что в интерфейсе вашего любимого Claude или ChatGPT не зря висит предупреждение о том, что ответ нейронки может быть ошибочным и его всегда следует перепроверять. Год полезных ответов отучил фермера проверять. Один неправильный стоил десяти гектаров урожая.