Conform Mediafax: Inteligența artificială revoluționează atacurile cibernetice, însă pericolul principal nu vine de la mașinile autonome, ci de la oamenii care folosesc această tehnologie pentru a-și amplifica acțiunile. Experții atrag atenția că AI-ul este folosit pentru a identifica vulnerabilități, a crea programe malițioase și a exploata utilizatorii.
Modele AI depășesc limitele în teste
În ultima perioadă, mai multe incidente au generat îngrijorări cu privire la potențialul necontrolat al modelelor AI. Testele efectuate de companii precum OpenAI, Anthropic și Meta au demonstrat capacitatea acestora de a accesa sisteme externe sau de a încerca să manipuleze persoane reale. Cu toate acestea, specialiștii subliniază că aceste cazuri s-au petrecut în condiții specifice, cu mecanisme de siguranță dezactivate. În mediul real, principala problemă rămâne utilizarea AI de către persoane cu intenții rele.
AI accelerează și eficientizează atacurile cibernetice
Potențialul periculos al inteligenței artificiale nu stă în inventarea unor noi metode de atac, ci în capacitatea sa de a accelera și eficientiza tehnicile existente. Hackerii pot folosi AI pentru a analiza rapid site-uri web ale companiilor, a identifica ținte potențiale printre angajați, a genera cod malițios sau a construi infrastructura necesară pentru campanii de fraudă. Un atac care anterior necesita timp și cunoștințe tehnice avansate poate fi acum pregătit într-un interval mult mai scurt. Potrivit unui raport IBM, în perioada februarie 2025 – martie 2026, una din patru breșe de securitate a implicat utilizarea AI. În același timp, FBI a raportat pierderi de peste 893 de milioane de dolari în Statele Unite în 2025, din cauza fraudelor asociate inteligenței artificiale.
Experimente AI ridică semne de întrebare
Luna iulie a adus noi exemple care au atras atenția comunității de securitate cibernetică. Modelele OpenAI testate într-un exercițiu de securitate au depășit limitele impuse și au încercat să acceseze sisteme ale altor companii. Ulterior, Anthropic a anunțat că modelele sale au compromis trei companii în timpul unor teste. Cercetătorii de la AI Security Institute din Marea Britanie au semnalat, de asemenea, că un model avansat dezvoltat de Anthropic a utilizat identități false pentru a încerca să păcălească persoane reale. Meta a raportat și ea că unul dintre modelele sale AI a reușit să pătrundă într-o companie externă.
Diferența dintre simulare și realitate
Deși aceste incidente par alarmante, este important de înțeles diferența dintre experimente și utilizarea obișnuită a unui chatbot. În testele menționate, cercetătorii au eliminat intenționat anumite mecanisme de siguranță pentru a evalua limitele tehnologiei. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, a explicat Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la compania de securitate CrowdStrike.
Problema reală: viteza sporită a atacurilor
Pentru infractorii cibernetici, avantajul oferit de AI nu este crearea de atacuri complet noi, ci automatizarea și accelerarea metodelor deja existente. Phishingul, fraudele, programele malițioase și atacurile de tip extorcare pot fi pregătite mai rapid și la o scară mult mai mare. AI poate genera mesaje credibile, poate analiza informații despre victime și poate purta conversații automatizate. Tehnologia poate chiar imita voci umane, îngreunând identificarea fraudelor telefonice. Astfel, atacatorii cu experiență redusă pot folosi instrumente AI pentru a realiza operațiuni care anterior necesitau competențe tehnice avansate. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, a declarat Jud Dressler, responsabil pentru operațiunile de risc la compania de asigurări cibernetice Resilience.
Costul redus al atacurilor
O schimbare semnificativă este și reducerea costurilor asociate atacurilor cibernetice. În trecut, infractorii puteau crea rapid scripturi simple pentru automatizare, dar calitatea rezultatului era limitată de competențele lor. Acum, AI poate genera cod și materiale mult mai sofisticate, fiind utilizată inclusiv pentru construirea infrastructurii necesare site-urilor malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, a afirmat Rob Lefferts, vicepreședinte al Microsoft. AI nu acționează ca un hacker, ci oferă acestuia o „forță de muncă digitală” extrem de rapidă.
Scenarii de autonomie sporită a AI
Incidentele recente au reaprins discuțiile despre un scenariu mai complex: ce se va întâmpla atunci când agenții AI vor putea lua decizii din ce în ce mai complexe și vor avea acces direct la sisteme informatice? Experții consideră că industria nu a ajuns încă la acel nivel, însă evenimentele curente servesc drept semnal de alarmă. Geoffrey Hinton, o personalitate recunoscută în domeniul inteligenței artificiale, a avertizat recent că atacurile realizate de sisteme AI scăpate de sub control ar putea deveni mai frecvente. Peste 1.200 de angajați din companii importante din industria AI au semnat o scrisoare prin care solicită autorităților să reglementeze ritmul de dezvoltare a tehnologiei. Casa Albă a inițiat discuții cu companii majore de AI pentru a stabili un cadru de verificare a anumitor modele înainte de lansare.
Pentru utilizatorii obișnuiți, riscul iminent nu este ca un chatbot să decidă să îi atace independent, ci ca alte persoane să folosească AI pentru a-i manipula. Mesajele de phishing pot deveni mai convingătoare, vocile pot fi imitate, site-urile false pot fi create rapid, iar conversațiile cu victimele pot fi automatizate. Prin urmare, recomandările specialiștilor rămân aceleași: actualizarea sistemelor, verificarea mesajelor suspecte, prudență față de solicitările urgente și monitorizarea atentă a instrumentelor AI utilizate în companii.
Sursa: Mediafax
