Conform Go4IT: Un fermier din China a suferit pierderi devastatoare, distrugând aproape 10 hectare de cultură de susan după ce a urmat orbește sfaturile unui chatbot bazat pe inteligență artificială. Recomandările privind combaterea buruienilor și a dăunătorilor au dus la pulverizarea unor substanțe chimice incompatibile, care au anihilat recolta într-o singură noapte.
Amestec chimic periculos recomandat de AI
Fermierul, un bărbat de 67 de ani identificat drept Wu, cultiva susan pe o suprafață de aproximativ 24,7 acri, echivalentul a aproape 10 hectare. Cultura sa era infestată de buruieni și dăunători, iar în ciuda reticenței inițiale față de tehnologia AI, a decis să consulte un chatbot în căutarea unei soluții.
Potrivit presei locale, chatbotul i-a sugerat un amestec complex de substanțe chimice. Fermierul a urmat indicațiile fără o verificare prealabilă a informațiilor, iar consecințele au fost rapide și costisitoare. Răsadurile de susan, dar și buruienile și dăunătorii vizau, au fost distruse complet peste noapte.
Eroare fatală de compatibilitate a substanțelor
Investigațiile ulterioare au relevat că problema principală a constat în compoziția amestecului recomandat. Experții au identificat prezența unei substanțe erbicide destinate combaterii buruienilor cu frunză lată. Problema majoră este că susanul, fiind și el o plantă cu frunză lată, a fost afectat direct. Mai mult, substanța era concepută pentru o aplicare țintită, nu pentru o pulverizare generalizată.
Wu a aplicat însă amestecul pe întreaga suprafață cultivată. După pulverizare, plantele de susan au început să se deterioreze rapid, înainte ca fermierul să poată interveni. „Dacă pulverizezi, a doua zi răsadurile nu vor supraviețui”, a declarat fermierul pentru presa locală, confirmând că atât buruienile, cât și plantele de susan au fost distruse în mod egal.
Avertisment ignorat al chatbotului
După ce a constat distrugerea culturii, fermierul s-a adresat din nou chatbotului pentru a înțelege cauzele. Sistemul a recunoscut ulterior problema asociată cu una dintre substanțele chimice indicate în recomandarea inițială. Acest caz subliniază una dintre limitările critice ale instrumentelor bazate pe inteligență artificială: pot furniza informații incorecte, chiar și atunci când par formulate cu mare încredere.
Serviciul AI utilizat de fermier afișa un avertisment explicit, indicând că informațiile generate pot fi eronate și necesită verificare. Ignorarea acestui avertisment a dus direct la pierderea majoră suferită de fermier.
Verificarea informațiilor, cheia prevenirii
O verificare simplă prin intermediul unor surse specializate în agricultură ar fi putut identifica riscul înainte de aplicarea substanțelor. De asemenea, consultarea unui specialist în domeniu ar fi putut preveni incidentul. Consecințele nu se rezumă doar la pierderea recoltei; în funcție de efectele substanțelor asupra solului, terenul ar putea necesita o perioadă de recuperare înainte de a putea fi cultivat din nou.
Acest incident servește drept un exemplu clar al pericolelor asociate cu utilizarea inteligenței artificiale pentru decizii cu impact real. Un răspuns care pare plauzibil nu este neapărat corect, iar verificarea informațiilor este esențială, în special în domenii critice precum agricultura, medicina sau finanțele.
Sursa: Go4IT
