O companie americană renunță la lansarea publică a unui nou model de inteligență artificială, din cauza capacităților sale de a exploata vulnerabilități informatice. Sistemul, denumit „Claude Mythos Preview”, a fost dezvoltat de Anthropic și se dovedește a fi prea avansat pentru a fi utilizat de publicul larg, potrivit informațiilor disponibile.
Capacități alarmante
Modelul de inteligență artificială este capabil să identifice și să exploateze vulnerabilități critice în sisteme de operare și browsere. Dezvoltatorii au constatat că aceste capabilități ar putea fi folosite de infractori cibernetici, motiv pentru care au decis să nu îl lanseze public. Compania a testat sistemul într-o serie de scenarii de securitate, cu rezultate îngrijorătoare.
Într-unul dintre experimente, Mythos a reușit să găsească o modalitate de a ocoli restricțiile unui mediu virtual securizat. De asemenea, a reușit să descopere erori grave în nucleul Linux, folosit pe majoritatea serverelor din lume. Mai mult, modelul a fost capabil să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-o altă situație, a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Proiectul Glasswing și colaborarea cu autoritățile
Anthropic va folosi modelul într-un program restrâns de securitate cibernetică numit „Project Glasswing”. Proiectul implică mai multe companii mari din tehnologie, printre care Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Acesta are ca scop identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice. Compania a confirmat, de asemenea, că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului, considerând că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale.
Directorul general al Anthropic, DARIO AMODEI, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
