„60 Minutes” złożyło szokująco fałszywe twierdzenie o Google Chatbot Bard AI

Odkąd OpenAI wypuściło ChatGPT na świat, widzieliśmy, jak zabiera ludzi, którym byś nie uwierzył. Niektórzy twierdzą, że chatboty mają przebudzoną agendę. Amerykański senator Chris Murphy napisał na Twitterze, że ChatGPT „nauczył” się zaawansowanej chemii. Nawet doświadczeni dziennikarze techniczni pisali historie o tym, jak to działa Chatbot zakochał się w nich. Wygląda na to, że świat reaguje na sztuczną inteligencję w taki sam sposób, w jaki prawdopodobnie zareagowali jaskiniowcy, kiedy po raz pierwszy zobaczyli ogień: z całkowitym zamieszaniem i niespójnym bełkotem.

Jeden z najnowszych przykładów pochodzi z 60 minut, który rzucił swój głos na ring w nowym odcinku poświęconym innowacjom w sztucznej inteligencji, który został wyemitowany w niedzielę CBS. Odcinek zawierał wywiady z Sundarem Pichai, dyrektorem generalnym Google i zawierał wątpliwe treści Roszczenia dotyczące firmowego chatbota Bard.

Segment dotyczy wyłaniającego się zachowania, które opisuje nieoczekiwany efekt uboczny systemu sztucznej inteligencji, który niekoniecznie był zamierzony przez twórców modelu. Widzieliśmy już pojawiające się zachowania w innych niedawnych projektach AI. Na przykład naukowcy niedawno wykorzystali ChatGPT do stworzenia cyfrowych postaci z celami i pochodzeniem w badaniu opublikowanym online w zeszłym tygodniu. Zauważają, że system wykonuje różne pojawiające się zachowania, takie jak dzielenie się nowymi informacjami między postaciami, a nawet tworzenie relacji między sobą – coś, czego autorzy początkowo nie planowali dla systemu.

Pojawiające się zachowania to z pewnością temat warty omówienia w programie informacyjnym. gdzie jest 60 minut Jednak film zmienia się, gdy dowiadujemy się o twierdzeniach, że chatbot Google był w stanie nauczyć się języka, którego wcześniej nie znał. „Na przykład jeden program Google AI zaadaptował się sam po tym, jak polecono mu to zrobić w języku Bangladeszu, którego nie był szkolony” – powiedział w klipie korespondent CBS News, Scott Pelley.

To był kompletny BS. Bard nie tylko nie nauczył się obcego języka, „że nie został wyszkolony w wiedzy”, ale nie nauczył się żadnej nowej umiejętności. Cały klip skłonił badaczy i ekspertów AI do skrytykowania wprowadzającego w błąd kadru programu informacyjnego na Twitterze.

„Z pewnością mam nadzieję, że niektórzy dziennikarze przejrzą cały segment @60Minute w Google Bard jako studium przypadku, jak * nie * opisywać AI”, powiedziała Melanie Mitchell, badaczka AI i profesor w Instytucie Santa Fe, napisał w tweecie.

„Przestań myśleć magicznie o technologii! #AI nie jest w stanie odpowiedzieć w języku bengalskim, chyba że dane szkoleniowe zostały skażone bengalskim lub przeszkolone w języku, który pokrywa się z bengalskim, takim jak asamski, orija lub hindi” Alex O. pracownik naukowy Massachusetts Institute of Technology, Dodano w innym poście.

Powód, dla którego to twierdzisz 60 minut Było to bardzo frustrujące dla tych ekspertów, ponieważ ignoruje i bawi się rzeczywistością tego, co może faktycznie zrobić generatywna sztuczna inteligencja, taka jak Bard. Nie może „nauczyć się” języka, jeśli nie ma do niego dostępu. To byłoby jak próba nauczenia się mandaryńskiego, ale usłyszałeś to dopiero po tym, jak ktoś kiedyś zapytał cię o mandaryński.

W końcu język jest niewiarygodnie złożony — z niuansami i regułami, które wymagają niewiarygodnego stopnia kontekstu do zrozumienia i komunikacji. Nie ma możliwości, aby nawet najbardziej zaawansowany model dużego języka (LLM) poradził sobie z tym wszystkim i nauczył się tego za pomocą niektórych monitów.

Ten fragment zawiera również jeden fakt całkowicie błędny: Bard mógł już trenować znajomość bengalskiego, dominującego języka Bangladeszu. Margaret Mitchell (bez krewnych), badaczka w Startup Lab w AT HuggingFace, a wcześniej w Google, wyjaśniła to w Temat tweeta rozbijając dokładnie dlaczego 60 minut było źle.

Mitchell zauważył, że Bard zawiera prace z wczesnej iteracji swojego modelu o nazwie PaLM. W demonstracji z 2022 roku Google pokazał, że PaLM może komunikować się i odpowiadać na monity w języku bengalskim. the Papier za PaLM W arkuszu danych ujawniono, że model został faktycznie przeszkolony w języku z około 194 milionami symboli w alfabecie bengalskim.

Nie jest jasne, dlaczego Pichai, dyrektor generalny Google, usiadł do wywiadu i pozwolił, aby te zarzuty były kontynuowane bez sprzeciwu. (Google nie odpowiedziało na prośby o komentarz.) Od czasu wyemitowania odcinka milczy, mimo że eksperci zwracają uwagę na wprowadzające w błąd i fałszywe twierdzenia zawarte w klipie. Na Twitterze Margaret Mitchell Wniosek Powodem tego może być połączenie liderów Google, którzy nie wiedzą, jak działają ich produkty, a także to, że pozwala to na rozpowszechnianie kiepskich wiadomości w celu zaradzenia obecnemu szumowi wokół generatywnej sztucznej inteligencji.

„Podejrzewam [Google executives] Dosłownie nie rozumiem, jak to działa, Mitchell ćwierkanie. „To, co napisałem powyżej, jest dla nich najprawdopodobniej nowością. I są zmotywowani, by tego nie rozumieć (PRZYJRZYJ W OCZY DO TEGO KARTY DANYCH!!).”

Druga połowa filmu może być również postrzegana jako problematyczna, ponieważ Pichai i Billy omawiają opowiadanie stworzone przez Barda, które „brzmiało bardzo ludzko”, pozostawiając obu mężczyzn nieco wstrząśniętych.

Prawda jest taka, że ​​te produkty nie są magiczne. Nie mogą być „ludźmi”, ponieważ nie są ludźmi. Są to predyktory tekstu, takie jak te w telefonie, wyszkolone w znajdowaniu najbardziej prawdopodobnych słów i wyrażeń po serii słów we frazach. Powiedzenie, że istnieją, może dać im poziom mocy, który może być niewiarygodnie niebezpieczny.

W końcu użytkownicy mogą używać tych generatywnych systemów sztucznej inteligencji do robienia takich rzeczy, jak rozpowszechnianie dezinformacji. Widzieliśmy już, jak manipulują podobizną ludzi, a nawet ich głosami.

Nawet chatbot sam w sobie może wyrządzić szkody, jeśli w rezultacie uzyska tendencyjne wyniki – coś, co już widzieliśmy w przypadku ChatGPT i Bard. Znając skłonność tych chatbotów do halucynacji i fabrykowania wyników, mogą one być w stanie rozpowszechniać dezinformację niczego niepodejrzewającym użytkownikom.

Potwierdzają to również badania. Ostatnie badania Opublikowany w Raporty naukowe Odkrył, że na ludzkie odpowiedzi na pytania etyczne mogą łatwo wpływać argumenty wysuwane przez ChatGPT – a nawet, że użytkownicy bardzo nie docenili, jak bardzo boty mają na nich wpływ.

Wprowadzające w błąd twierdzenia dot 60 minut Tak naprawdę jest to tylko objaw większego zapotrzebowania na umiejętności cyfrowe w czasie, gdy potrzebujemy ich najbardziej. Wielu ekspertów AI twierdzi, że teraz, bardziej niż kiedykolwiek, nadszedł czas, kiedy ludzie muszą być świadomi tego, co AI może, a czego nie. Te podstawowe fakty dotyczące robotyki muszą być również skutecznie przekazywane szerszej publiczności.

Oznacza to, że ludzie z największymi platformami i najgłośniejszymi głosami (tj. media, politycy i dyrektorzy generalni Big Tech) ponoszą największą odpowiedzialność za zapewnienie bezpieczniejszej i lepiej wykształconej przyszłości sztucznej inteligencji. Jeśli tego nie zrobimy, możemy skończyć jak wspomniani jaskiniowcy, bawiąc się magią ognia – i poparzyć się przy tym.