Ne, nije riječ o novom horor filmu - riječ je o 'Normanu', prvoj umjetnoj inteligenciji (AI) koja pokazuje znakove psihopatskog ponašanja, objavili su američki znanstvenici, u studiji koja bi trebala pokazati potencijalne opasnosti od AI-ja.
Norman “predstavlja studiju slučaja opasnosti u kojemu
umjetna inteligencija može poći ukrivo ako se
pristrani podaci unesu u algoritme pomoću kojih stroj
uči.”, objavio je prestižni Massachusetts Institute
of Technology (MIT).
“Postoji ključna ideja u strojnom učenju: podaci koji se
unose u algoritme strojnog učenja mogu značajno promjeniti
ponašanje stroja.”, navode znanstvenici MIT-a uključeni
u istraživanje.
“Kad govorimo o AI algoritmima koji su pristrani ili
nepošteni, krivac uglavnom nije sam algoritam, već pristrani
podaci koji su uneseni.”, dodaju znanstvenici Pinar
Yanardag, Manuel Cebrian i Iyad Rahwan.
Otuda i ideja kreiranja Normana, psihopatskog AI-ja nazvanog
prema liku psihopatskog ubojice Normana Batesa iz filma “Psycho”
Alfreda Hitchcocka iz 1960.
Norman je ‘nahranjen’ samo osnovnim podacima kojima se opisuju
fotografije ‘umirućih ljudi’ pronađene na društvenoj mreži
Reddit. Znanstvenici su nakon toga Normanu pokazali slike mrlja
tinte, kao u poznatom Rorschachovom psihološkom testu, kako bi
vidjeli što u njima Norman vidi i usporedili njegove odgovore s
odgovorima drugih AI-ja u koje su uneseni
tradicionalni podaci.
Rezultati su u najmanju ruku bili sablasni: u mrljama tinte u
kojima ‘tradicionalni’ AI vidi “dvije osobe koje stoje jedna
blizu druge”, Norman vidi “osobu koja skače kroz prozor”. A kad
Norman prepozna “muškarca kojeg je iz vatrenog oružja ubila
njegova žena”, drugi AI-ji vide “osobu koja drži kišobran”.
Na stranici “norman-ai.mit.edu” prikazano je desetak primjera
mrlja tinte i odgovore koje su dala dva sustava – a u svakom
slučaju Norman je imao neku jezivu ideju o tome što je u mrljama
prepoznao.
Stranica dopušta korisnicima da također testiraju Normana mrljama
tinte, te pošalju svoje odgovore kako bi pomogli da “Norman
popravi samoga sebe”.
