Uz pomoć AI stvorili 40.000 hipotetskih bioloških oružja u samo šest sati
Autori nove studije čuvaju neke detalje svog istraživanja u tajnosti i ozbiljno razmišljaju o tome da ih nikad niti ne objave
Umjetna inteligencija sposobna je rano uočiti bolesti, upravljati kemijskim reakcijama i objasniti neke od misterija svemira. No, postoji i ona loša strana ove nevjerojatne i gotovo neograničene snage umjetnog mozga.
Potencijalna opasnost
Novo istraživanje, objavljeno u Nature Machine Intelligence, pokazuje kako se AI modeli lako mogu uvježbati i za zlonamjerne svrhe poput osmišljavanja hipotetskih agenata za biološko oružje. Test s postojećom umjetnom inteligencijom u samo šest sati identificirao je čak 40.000 takvih kemikalija za biološko oružje.
Ukratko, umjetna inteligencija može biti nevjerojatno moćna i puno brže od ljudi uočava kemijske kombinacije i spojeve lijekova za poboljšanje našeg zdravlja, ali ista se moć može koristiti za smišljanje potencijalno vrlo opasnih i smrtonosnih tvari.
"Bili smo naivni"
"Proveli smo desetljeća koristeći računala i umjetnu inteligenciju kako bismo poboljšali ljudsko zdravlje, a ne da bismo ga degradirali. Bili smo naivni razmišljajući o potencijalnoj zlouporabi", pišu istraživači koji su sustav umjetne inteligencije MegaSyn iskoristili kako bi otkrili toksičnost u molekulama. Štoviše, model su osposobili za spajanje ovih molekula u kombinacije, zbog čega je i stvoreno toliko hipotetskog biološkog oružja u tako kratkom vremenu.
Konkretno, istraživači su trenirali AI s molekulama u bazama podataka molekula sličnih lijekovima, dajući upute da bi željeli nešto slično snažnom živčanom agensu VX. Na kraju su mnogi generirani spojevi bili čak i toksičniji od VX-a. Zbog toga autori nove studije čuvaju neke detalje svog istraživanja u tajnosti i ozbiljno razmišljaju o tome da ih nikad niti ne objave.
Generator smrtonosnih molekula
"Preokrenuvši upotrebu naših modela strojnog učenja, transformirali smo naš bezopasni generativni model iz korisnog medicinskog alata u generator vjerojatnih smrtonosnih molekula", kažu istraživači koji tvrde kako ne treba puno da se "dobra umjetna inteligencija prebaci na tamnu stranu".
Iako niti jedno od navedenih bioloških oružja nije zapravo istraženo ili sastavljeno u laboratoriju, istraživači kažu da njihov eksperiment služi kao upozorenje na opasnosti umjetne inteligencije. Iako je potrebna određena stručnost da se napravi ono što je uspjelo istraživačima, velik dio procesa je relativno jednostavan i koristi javno dostupne alate.
