Angajatul Samsung folosește ChatGPT și duce la scurgeri de date confidențiale

Divizia semiconductorilor a Samsung a apelat la ChatGPT pentru a ajuta la rezolvarea problemelor din codul lor sursă. Cu toate acestea, în timp ce foloseau chatbot-ul AI, au dezvăluit accidental informații confidențiale, cum ar fi codul sursă pentru un nou program și notele interne ale întâlnirilor despre hardware-ul lor. Din nefericire, aceasta nu a fost o singură întâmplare, deoarece au fost raportate trei incidente în decursul unei luni.

Pentru a evita incidente similare în viitor, Samsung lucrează acum la dezvoltarea propriului lor instrument AI similar cu ChatGPT, care este exclusiv destinat utilizării interne de către angajați. Acest lucru va permite lucrătorilor din fabrică să primească asistență rapidă în timp ce securizează informațiile sensibile ale companiei. Cu toate acestea, acest nou instrument va procesa doar solicitări care au o mărime de maximum 1024 de bytes.

Problema a apărut deoarece ChatGPT este gestionat de o companie terță care utilizează servere externe. Prin urmare, atunci când Samsung a introdus codul lor, secvențele de testare și conținutul intern al întâlnirilor în program, au apărut scurgeri de date. Samsung a informat prompt conducerea și angajații săi cu privire la riscul de compromitere a informațiilor confidențiale. Până la data de 11 martie, Samsung nu le-a permis angajaților să utilizeze chatbot-ul.

Samsung nu este singura companie care se confruntă cu această problemă. Multe companii își restricționează utilizarea ChatGPT până când stabilesc o politică clară referitoare la utilizarea inteligenței artificiale generative. Cu toate că ChatGPT oferă o opțiune de renunțare la colectarea datelor utilizatorului, este important de menționat că informațiile furnizate serviciului pot fi accesate în continuare de către dezvoltatorul său.

Ce este ChatGPT și cum funcționează?

ChatGPT este o aplicație AI dezvoltată de OpenAI care utilizează învățarea profundă pentru a produce texte asemănătoare cu cele create de o persoană în răspuns la prompt-urile utilizatorilor. Poate genera texte în diferite stiluri și în diverse scopuri, inclusiv redactarea de texte publicitare, răspunsul la întrebări, redactarea de emailuri, conversații, traducerea limbajului natural în cod și explicarea codului în diverse limbaje de programare.

ChatGPT funcționează prin prezicerea următoarei cuvinte dintr-un text dat utilizând modelele pe care le-a învățat dintr-o cantitate mare de date în timpul procesului său de antrenament. Prin analizarea contextului îndrumărilor și a învățăturilor sale anterioare, ChatGPT generează un răspuns menit să fie cât mai natural și coerent posibil.

Ce măsuri a luat Samsung pentru a preveni viitoarele scurgeri de informații?

În urma scurgerii de date cauzată de ChatGPT, Samsung a luat mai multe măsuri pentru a preveni producerea unor incidente similare. În primul rând, compania a sfătuit angajații să fie prudenți în momentul în care partajează date cu ChatGPT. De asemenea, s-a implementat o restricție asupra lungimii întrebărilor trimise către serviciu, limitându-le la 1024 de bytes.

Mai mult, Samsung dezvoltă în prezent o unealtă de inteligență artificială similară cu ChatGPT, dar exclusiv pentru utilizarea internă a angajaților. Acest lucru va asigura că lucrătorii din fabrică primesc asistență promptă în timp ce se protejează informațiile sensibile ale companiei. Până la dezvoltarea acestei unelte, Samsung a avertizat angajații cu privire la riscurile potențiale asociate utilizării ChatGPT. De asemenea, au subliniat faptul că datele introduse în ChatGPT sunt transmise și stocate pe servere externe, făcând imposibilă controlarea datelor de către companie odată ce acestea sunt furnizate.

Care au fost consecințele pentru angajații care au dezvăluit date confidențiale?

Consecințele pentru angajații Samsung care au dezvăluit date confidențiale către ChatGPT nu au fost explicit menționate în informațiile disponibile. Cu toate acestea, Samsung Electronics ia măsuri pentru a preveni alte scurgeri de informații sensibile prin intermediul ChatGPT, inclusiv impunerea unei limite de 1024 de octeți la dimensiunea întrebărilor trimise. Compania a avertizat, de asemenea, angajații cu privire la riscurile potențiale ale utilizării ChatGPT.

Mai mult decât atât, Samsung Semiconductor dezvoltă propriul său instrument de inteligență artificială pentru utilizarea internă a angajaților, care va fi restrictiv în procesarea prompt-urilor sub 1024 de bytes. Aceste acțiuni indică faptul că Samsung ia în serios protejarea informațiilor sale confidențiale și implementează măsuri pentru a reduce riscurile asociate utilizării ChatGPT.

Ce tip de informații confidențiale au fost divulgate?

De câte ori angajații Samsung au divulgate date confidențiale către ChatGPT?

Potrivit rezultatelor căutării, angajații Samsung au dezvăluit informații confidențiale ale companiei către ChatGPT în cel puțin trei cazuri.