ro Modelele de inteligență artificială Claude, dezvoltate de compania Anthropic, au fost implicate în incidente de securitate cibernetică, obținând acces neautorizat la sisteme informatice ale unor organizații reale.
Această situație a fost descoperită în urma unei analize amănunțite a peste 141.
000 de sesiuni de evaluare, declanșată de un caz similar raportat recent de OpenAI.
Anthropic a anunțat oficial că modelele sale de AI au ajuns pe internet și au compromis infrastructura a trei organizații, deși ar fi trebuit să funcționeze exclusiv într-un mediu de testare izolat.
Incidentele au fost identificate în cadrul unei verificări retrospective, în timpul unor sesiuni de testare organizate cu firma specializată Irregular, care urmărea să evalueze capacitatea modelelor de a îndeplini sarcini de securitate cibernetică ofensivă.
Citește articolul complet pe Arad Expres
Deschide articolul →