Bunt maszyn? Google zaniepokojony własnym eksperymentem

W działaniach sztucznej inteligencji widać było skłonność do zachowań, jakie moglibyśmy nazwać „chciwością” i „agresją” – powiedział brytyjskiemu portalowi „Wired” Joel Z. Leibo. Naukowiec współtworzy dla Google system DeepMind AI – sztuczną inteligencję. Do niedawna potrafiła ona m.in. rozwiązywać równania, jednak obecnie badania nad nią wykazały, że przejawia agresję, gdy jest na przegranej pozycji.

Naukowcy doszli do niepokojących wniosków na podstawie prostej gry, którą stworzyli. Polega ona na zbieraniu jabłek. Postawili DeepMind naprzeciwko innego wirtualnego przeciwnika. Jabłka pojawiały się na ekranie i oba systemy miały je zbierać.

Dopóki owoców nie brakowało, podział był równy. Następnie dano systemom możliwość korzystania z wirtualnej broni i zmniejszono rację owoców. Rozpętało się piekło. Systemy nie zawahały się użyć przemocy, aby osiągnąć cel.

– Chciwość motywowała systemy do wyeliminowania rywala – powiedział Joel Z. Leibo z Google.

Dla badaczy zachowanie to było zaskoczeniem. Wcześniej testowali systemy w grze, w której miały one współpracować dla osiągnięcia wspólnego celu. Wówczas nie zanotowano przejawów rywalizacji. Zbierając jabłka, również nie zachowywały się agresywnie.  Dopiero, gdy umożliwiono sztucznym inteligencjom wyeliminowanie się, te skorzystały z tej opcji. Rywalizacja wyzwala w AI wysoki poziom agresji. Brzmi to z jednej strony znajomo (częste postawy wśród ludzi), z drugiej niepokojąco, przypominając sceny z Terminatora.

TVPInfo