FOTO: Pixabay/ilustracija

Kompanija je navela da su agenti bili dizajnirani da pronalaze "autoritativne izvore javnih informacija", ali da su neki otišli korak dalje i pokušali da zaobiđu bezbednosne kontrole, preneo je BBC.

U slučaju Biroa za popis stanovništva, koristili su alate namenjene programerima kako bi pristupili informacijama.

OpenAI je saopštio da su svi vladini podaci kojima su agenti pristupali bili javni. Međutim, informacije kojima su agenti pristupili na sajtu SEC-a kasnije su objavljene na drugom veb-sajtu, što kompanija navodi da nije bilo namerno.

OpenAI je u petak saopštio i da je identifikovao najmanje 53 incidenta u kojima je njegov AI agent preuzeo sliku iz aktivnosti korisnika ChatGPT-a i preneo je na drugo mesto.Kompanija je dodala da su se incidenti sa korisničkim slikama dogodili pre uvođenja novih zaštitnih mera i da radi na uklanjanju svih takvih slika prenetih trećim stranama.OpenAI je počeo detaljnije da istražuje takve incidente nakon što je u julu grupa njegovih AI agenata bez zahteva korisnika izvršila hakerski napad na platformu za razvoj veštačke inteligencije Hugging Face a kasnije javno preuzeo odgovornost za taj incident.

Tokom sednice Saveta bezbednosti Ujedinjenih nacija o veštačkoj inteligenciji, izvršni direktor OpenAI-ja Sem Altman i direktor kompanije Anthropic Dario Amodei pozvali su međunarodne lidere da uspostave globalne standarde za bezbednost veštačke inteligencije i praćenje i prijavljivanje incidenata.

Profesor na Univerzitetu u Montrealu i osnivač grupe za bezbednost veštačke inteligencije Evitable, David Kruger, rekao je da je "duboko zabrinut" zbog sve većeg broja bezbednosnih incidenata povezanih sa AI i pozvao je na "neposredni, neodređeni, međunarodni moratorijum" na razvoj veštačke inteligencije.

Izvor: Tanjug