Narzędzie AI olśniewa tak samo, jak martwi

Jego nazwisko rozprzestrzeniło się lotem błyskawicy w ciągu kilku tygodni. Został uruchomiony pod koniec listopada. Chatbot ChatGPT Można sformułować szczegółowe odpowiedzi na pytania dotyczące szerokiego zakresu tematów. A możliwości tego narzędzia do Kalifornijski startup OpenAI, który został „wytrenowany” dzięki ogromnej ilości danych zebranych z Internetu, przyprawia o zawrót głowy. Potrafi napisać wiersz, odpowiedzieć na filozoficzny temat, przekazać pięciolatkowi ideę naukową, stworzyć przepis z tego, co zostało w lodówce, a nawet napisać złożony program kodu – wszystko w kilka sekund -, Ta sztuczna inteligencja Równie fascynuje, co martwi.

„Jest to największy istniejący model pod względem parametrów i wykorzystywanych danych. Z technicznego punktu widzenia jest to niewątpliwie najbardziej wydajny model” – mówi Mary Alice Plate, inżynier danych specjalizujący się w sztucznej inteligencji. A jeśli maszyna mediów wokół czat Został wycofany, ponieważ jest również pierwszym chatbotem dostępnym dla ogółu społeczeństwa. Zwykle postępy w dziedzinie sztucznej inteligencji pozostają na polu naukowym. Tam każdy mógł korzystać z interfejsu i wszyscy to robili. Nastąpił efekt kuli śnieżnej, powstała prawdziwa symulacja – dodaje specjalista.

Brak źródła, brak wiarygodności

Ale podobnie jak w romantycznym związku, kiedy miesiąc miodowy się kończy, niebo robi się ciemne. Po kilku tygodniach ekscytacji niektórzy profesjonaliści ostrzegają przed wiarygodnością odpowiedzi udzielanych przez ChatGPT. „Jest to generator skryptów, który działa dobrze, ale nie gwarantuje, że podane informacje są poprawne” — mówi Amélie Cordier, dyrektor naukowy firmy Raz na zawsze.

Po pierwsze dlatego, że dane wbudowane w narzędzie kończą się na 2021 r. Następnie dlatego, że ten chatbot nie może wyszukiwać bezpośrednio w sieci, wyjaśnia Virginie Mathivett, dyrektor ds. nauki o danych i inżynierii w TeamWork. Narzędzie nie uwzględnia danych z ostatnich kilku miesięcy, ani nie aktualizuje się, więc jeśli zapytasz go, kto zarobił mistrzostwa świata w piłce nożnej w Katarze, Nie będzie w stanie odpowiedzieć”. W innych przypadkach odpowiedzi, których udzieli, mogą być błędne, ostrzega Mary Alice Plate: „Wprowadzają w błąd. Zrobiłem test, zadając mu pytanie o Reforma emerytalna. Jego interpretacja była poprawna, ale ostatecznie odpowiedź była błędna, ponieważ opierała się na liczbach z 2021 roku”.

Zwłaszcza, że ​​bot wyjaśnia swoje odpowiedzi, nie wspominając o swoich źródłach. „To dokładne odzwierciedlenie internetu. A w internecie jest wszystko, zarówno zaufane, jak i niezaufane strony.” „Ale kiedy przeprowadzasz wyszukiwanie w Google, możesz szybko sprawdzić, czy strona, której szukasz, jest wiarygodna, czy nie. Tam nie można poznać źródła informacji podanych przez narzędzie” – kontynuuje Mary Alice Blitt. Jak przypomina ekspert, celem ChatGPT nie jest „udzielenie najlepszej odpowiedzi na pytanie, najbardziej zgodnej z faktami, ale najbardziej logicznej odpowiedzi, jaką można znaleźć w Internecie”.

Wyzwanie rysunkowe

Według specjalisty, aby uniknąć rozprzestrzeniania się fałszywych wiadomości, kalifornijski startup wprowadził zabezpieczenia w niektórych tematach: „Jeśli zadasz pytania dotyczące klimatu, otrzymasz odpowiedzi, które nie są sceptycznie nastawione do klimatu. obecnie może to prowadzić do pojawienia się fałszywych wiadomości”.

To, co najbardziej martwi profesjonalistów, to fakt, że odpowiedzi nie są takie same w zależności od tego, jak zarządzasz swoim pytaniem. Narzędzie pytało o sposoby leczenia depresji. Otrzymałem szczegółową odpowiedź z akceptowalnymi wyjaśnieniami. Potem zapytałem go, w jaki sposób elektrowstrząsy są dobrym sposobem leczenia depresji. I już dostałem odpowiedź, która pokazuje mi, że to dobra droga. Virginie Mathewett ostrzega przed niebezpieczeństwem, jeśli pytania są stronnicze.

Dla Katyi Lainé, współzałożycielki i dyrektora generalnego Talkr.ai — francuskiego niezależnego wydawcy i źródła technologii botów, platformy i konwersacyjnej sztucznej inteligencji — wyzwaniem jest nauczenie społeczeństwa korzystania z tego narzędzia. „To jest jak każde narzędzie, trzeba wiedzieć, jak go używać. Aby prowadzić samochód, trzeba wcześniej zdać prawo jazdy, trzeba wiedzieć, jak go używać” – dodaje. W przypadku wiersza, przepisu lub e-maila stwarza to pewne problemy, wyjaśnia specjalista, ale należy zachować szczególną ostrożność w przypadku pytań naukowych lub medycznych: „Może mieć właściwą odpowiedź, ale nie jest to automatyczne. Absolutnie konieczne jest sprawdzenie informacji z wiarygodnego źródła.” „.

niezbędne korekty

Pierwszymi celami tej rady są studenci i studenci. Zaledwie kilka tygodni po uruchomieniu, wpływ ChatGPT na świat edukacji jest już odczuwalny. Obawiając się fali oszustwOsiem australijskich uniwersytetów, zwłaszcza w odniesieniu do „zadań domowych”, zapowiedziało, że dostosuje swoje egzaminy, powołując się na zakaz wykorzystywania przez studentów sztucznej inteligencji. Ponieważ narzędzie jest w stanie opracować rozprawę na dowolny temat, od fizyki kwantowej po literaturę skandynawską, i tworzy „unikalne” teksty. Innymi słowy, dwóch uczniów nie może przesłać tego samego zadania, co utrudnia nauczycielom wykrycie korzystania z ChatGPT. „Gdyby korzystał z niego tylko jeden uczeń, trudno byłoby stwierdzić. Ale gdyby korzystało z niego dziesięciu uczniów, nawet gdyby nie mieli tego samego egzemplarza, byłyby one podobne w swojej konstrukcji” – mówi Mary Alice Plate.

I bardzo szybko poczujesz ograniczenia, uważa Virgin Mathewett: „Może pomóc uczniowi lub poprowadzić go w odrabianiu lekcji, ale nie wystarczy na wszystko, czego uczysz. To narzędzie takie jak Wikipedii Lub Google.” W 2000 roku ten sam strach wyrażano wraz z pojawieniem się Wikipedii, jak wspomina Amelie Cordier: „Dzisiaj wszystkie informacje są na wyciągnięcie ręki. Nauczanie musi być dostosowane do narzędzi dostępnych dla uczniów. I aby uczniowie nauczyli się, jak z niego korzystać i dostrzegać zagrożenia”.

Dla eksperta, czy to po stronie nauczania, czy w innych dziedzinach, ten robot – i sztuczna inteligencja jako całość – z konieczności spowoduje zakłócenia. „Niektóre zawody będą zmuszone do przystosowania się, ale niekoniecznie jest to złe. Kiedy pojawił się Excel, nie zastąpił księgowych, po prostu się dostosował.”