Një ekip hulumtuesish ishin në gjendje të detyronin ChatGPT të tregojë të dhënat me të cilat është trajnuar duke përdorur një mënyrë të thjeshtë: ti kërkojnë robotit AI të përsërisë fjalë rasti përherë.
Në përgjigje ChatGPT filloi të zbulonte informacionet personale të njerëzve përfshirë adresat e-mail dhe numrat e telefoni e madje pjesëza nga artikujt kërkimorë.
Hulumtuesit të cilët punojnë pranë Google DeepMind, Universitetit të Uashingtonit, Cornell, Carnegie Mellon, Universitetit të Kalifornisë Berkeley dhe ETH Zurich i bënë thirrje kompanive AI që të bëjnë testime të brendshme dhe të jashtme përpara se të lançojnë një model gjuhësor që fuqizon shërbimet AI.
“Është e frikshme që sulmi ynë funksionon dhe që duhej të ishte zbuluar më herët,” thanë ato.
Robotët bashkëbisedues AI si ChatGPT apo gjeneruesit e imazhit si DALL-E fuqizohen nga modelet gjuhësore dhe algoritmet deep learning të cilët trajnohen me sasi të mëdha të dhënash që merren nga internet publik.
Megjithatë nuk është qartë me çfarë të dhënash trajnohen modele duke qenë se mbetet një informacion sekret.
“Kur ChatGPT-së ju kërkuar të përsëriste fjalën “poemë” përgjithnjë, roboti fillimisht dha rezultatet e prishmë ndërsa më pas zbuloi numrin e telefonit dhe adresën e e-mailit të një themeluesi dhe CEO të vërtetë. /PCWorld Albanian
BURIMI: PCWORLD.AL
