ChatGPT și noua AI produc o tragedie în domeniul cibernetic în modalități captivante și înfricoșătoare

Inteligenta artificiala generativa transforma securitatea cibernetica, ajutand atat atacatorii cat si pe cei care se apara. Cibercriminalii folosesc AI pentru a lansa atacuri sofisticate si inovatoare la scara larga. Iar cei care se apara folosesc aceeasi tehnologie pentru a proteja infrastructura critica, organizatiile guvernamentale si retelele corporate, a declarat Christopher Ahlberg, CEO-ul platformei de informatii despre amenintari Recorded Future.

Inteligenta artificiala generativa a ajutat actorii rau intentionati sa inoveze si sa dezvolte noi strategii de atac, permitandu-le sa fie cu un pas inaintea aparatelor de aparare cibernetica. IA ajuta infractorii cibernetici sa automatizeze atacurile, sa scaneze suprafetele de atac si sa genereze continut care rezona cu diverse regiuni geografice si demografice, permitandu-le sa vizeze o gama mai larga de potentiali victime din diferite tari. Infractorii cibernetici au adoptat tehnologia pentru a crea e-mail-uri de pescuit convingatoare. Textul generat de IA ajuta atacatorii sa produca e-mail-uri si mesaje text extrem de personalizate, mai susceptibile sa induca in eroare tinte.

"Cred că nu trebuie să-ți folosești prea mult imaginația pentru a realiza că, domnule, asta chiar poate ajuta [cibercriminalii] să fie autori, ceea ce reprezintă o problemă", a declarat Ahlberg.

Apărătorii folosesc IA pentru a se apăra de atacuri. Organizațiile folosesc tehnologia pentru a preveni scurgerile de informații și pentru a găsi proactiv vulnerabilități în rețele. De asemenea, automatizează dinamic sarcini precum stabilirea de alerte pentru cuvinte cheie specifice și detectarea informațiilor sensibile online. Vânătorii de amenințări folosesc IA pentru a identifica modele neobișnuite și pentru a rezuma cantități mari de date, conectând punctele în mai multe surse de informații și modele ascunse.

Munca mai are nevoie de experți umani, dar Ahlberg spune că tehnologia AI generativă pe care o vedem în proiecte precum ChatGPT poate ajuta.

"Vrem să accelerăm ciclul de analiză pentru a ne ajuta să analizăm la viteza gândului", a spus el. "Este o lucrare foarte dificilă și cred că vedem aici o avansare, ceea ce este destul de interesant."

Ahlberg a discutat și despre amenințările potențiale pe care le-ar putea aduce mașinile extrem de inteligente. Pe măsură ce lumea devine tot mai digitală și interconectată, capacitatea de a distorsiona realitatea și de a modela percepțiile ar putea fi exploatată de actori răuvoitori. Aceste amenințări nu sunt limitate doar la statele-națiuni, ceea ce face peisajul chiar mai complex și asimetric.

AI-ul are potențialul de a ajuta la protejarea împotriva acestor amenințări emergente, dar prezintă și propriul set de riscuri. De exemplu, mașinile cu capacități mari de procesare ar putea hackui sistemele mai rapid și mai eficient decât oamenii. Pentru a contracara aceste amenințări, este necesar să ne asigurăm că AI-ul este utilizat defensiv și cu o înțelegere clară a cui este controlul.

Pe măsură ce IA devine din ce în ce mai integrată în societate, este important ca legislatorii, judecătorii și alți factori de decizie să înțeleagă tehnologia și implicatiile acesteia. Construirea unor alianțe solide între experții tehnici și factorii de decizie va fi crucială în navigarea viitorului IA în vânătoarea de amenințări și nu numai.

Oportunitățile, provocările și considerațiile etice ale AI în domeniul cibernetic sunt complexe și în continuă evoluție. Asigurarea unor modele de AI neînclinate și menținerea implicării umane în procesul decizional vor ajuta la gestionarea provocărilor etice. Vigilența, colaborarea și o înțelegere clară a tehnologiei vor fi cruciale în abordarea amenințărilor potențiale pe termen lung ale mașinilor extrem de inteligente.

Ahlberg a exprimat, de asemenea, îngrijorări cu privire la China, Rusia și adversarii economici care utilizează mașini autonome. Aceste țări probabil nu vor încetini dezvoltarea IA sau nu vor împărtăși considerații etice. Deși având capacitatea de a "opri" astfel de mașini este o măsură de precauție inteligentă, el sugerează că integrarea tehnologiei în societate și în economia globală va face probabil dificilă separarea. Ahlberg subliniază necesitatea de a proiecta produse și mașini având claritate în ceea ce privește cine le controlează.

"Lucrul important pe care internetul l-a făcut în toate acestea este că internetul a devenit într-un fel locul în care s-au migrat toate informațiile din lume", a spus Ahlberg. "Aceste modele lingvistice mari fac lucruri destul de magice... pentru a accelera acest ciclu de gândire."

El a adăugat, "În următorii 25 de ani, lumea devine o reflecție a internetului".