Применение технологий требует осторожности, особенно когда речь идет о чат-ботах на базе ИИ. Это правило вновь подтвердилось на горьком опыте 67-летнего фермера по имени Ву из Китая. Его доверие к ИИ привело к настоящей катастрофе: он погубил 10 гектаров кунжута, следуя совету виртуального помощника по борьбе с сорняками.
Как сообщает пресса, фермер обратился к ИИ с просьбой помочь ему защитить посевы от вредителей. Алгоритм предложил смешать определенные химикаты, и Ву распылил полученный раствор по всему полю. На следующий день стало ясно, что решение было ошибочным: хотя гербицид успешно справился с сорняками, он также уничтожил ростки кунжута.
Если вы распылите это средство, на следующий день ростки не выживут. Погибнут и трава, и рассада, причем кунжут умирает даже быстрее.
Фермер, пытаясь выяснить причины бедствия, снова обратился к ИИ, который без колебаний указал на гербицид как возможную причину гибели урожая.
Сельскохозяйственные эксперты, узнав об инциденте, пояснили, в чем заключалась ошибка. Действительно, рекомендованный химикат предназначен для борьбы с сорняками, но только на полях сои. Поскольку кунжут также относится к широколиственным растениям, результат оказался катастрофическим. Более того, токсичные препараты должны применяться точечно, а не распыляться по всей территории. ИИ, обладая широкой базой данных, проигнорировал эти важные нюансы и фактически посоветовал фермеру уничтожить свой урожай.
Ву признался, что в начале своего знакомства с нейросетями он был настроен скептически. Со временем, оценивая успешные рекомендации, он все больше доверял алгоритму. Однако в этот раз ИИ не предупредил его об опасности использования гербицида для кунжута, и теперь фермер вряд ли снова доверится технологиям.
