John Hopfield, zdobywca Nagrody Nobla w dziedzinie fizyki za badania nad sztuczną inteligencją, ostrzega przed „głęboko niepokojącymi” ostatnimi osiągnięciami w dziedzinie sztucznej inteligencji

Jest jednym z pionierów sztucznej inteligencji, ale to nie przeszkadza mu z pewną troską monitorować jej rozwój. John Hopfield, amerykański naukowiec, laureat Nagrody Nobla w dziedzinie fizyki za badania w dziedzinie sztucznej inteligencji, we wtorek, 8 października, ocenił najnowszy postęp technologiczny w tej dziedzinie. „Bardzo niepokojące”.

Badacz ostrzegał przed potencjalną katastrofą, jeśli nie zostaną one opanowane. Emerytowany profesor Uniwersytetu Princeton wezwał do lepszego zrozumienia działania tych systemów, aby zapobiec wymknięciu się ich spod kontroli.

Przemawiając za pośrednictwem wideo z Wielkiej Brytanii do zgromadzenia na Uniwersytecie New Jersey, 91-letni badacz powiedział, że w ciągu swojego życia był świadkiem pojawienia się dwóch potężnych, ale potencjalnie niebezpiecznych nauk: inżynierii biologicznej i fizyki jądrowej. „Jesteśmy przyzwyczajeni do technologii, które są nie tylko dobre lub złe, ale mogą działać w obie strony”.Ogłaszać.

„Jako fizyka bardzo niepokoi mnie coś, czego nie można kontrolować, coś, czego nie rozumiem na tyle dobrze, aby wiedzieć, jakie ograniczenia można nałożyć na tę technologię”.– dodała laureatka Nagrody Nobla. „To pytanie zadaje sztuczna inteligencja”.Kontynuował. Choć współczesne systemy AI tak właśnie wyglądają „Absolutne cuda”Jego działanie wciąż nie jest dobrze poznane „Bardzo niepokojące” Według niego.

„Zdolności wykraczające poza twoją wyobraźnię”.

„I dlatego myślę o sobie, tak jak myślę o Geoffreyu Hintonie [co-lauréat du Nobel], Zdecydowanie wzywamy do lepszego zrozumienia.” Kontynuował, dodając, że pole „Rozwijaj zdolności wykraczające poza te, które możesz sobie obecnie wyobrazić”..

Wraz z szybkim rozwojem sztucznej inteligencji i zaciętym wyścigiem między firmami krytycy zwracają uwagę, że technologia ta rozwija się szybciej, niż naukowcy są w stanie to zrozumieć.

„Nigdy nie wiadomo, czy w pracy nie kryje się coś spontanicznego, ale niechcianego”.”, zauważył John Hopfield. Przywołał przykład „Ice Nine”, fikcyjnego materiału wymyślonego przez autora science fiction Kurta Vonneguta w jego książce z 1963 roku Kocia kołyska. Został opracowany, aby pomóc żołnierzom zmuszonym do poruszania się po błocie, ale przypadkowo powoduje twardnienie oceanów, powodując utratę ludzkiej cywilizacji.

„Martwię się wszystkim, co mówi: «Jestem szybszy od ciebie, jestem większy od ciebie»”powiedział John Hopfield.