Google wstrzymało publiczny dostęp do swojego modelu sztucznej inteligencji Gemma. Decyzja zapadła po tym, jak technologia wygenerowała fałszywe oskarżenia pod adresem republikańskiej senator Marshy Blackburn.
Model Gemma, w odpowiedzi na pytanie o senator Marshę Blackburn, stworzył nieprawdziwą historię o jej rzekomej relacji seksualnej z funkcjonariuszem policji stanowej podczas kampanii w 1987 roku. Według wygenerowanej treści, oficer miał twierdzić, że senator zmuszała go do zdobywania leków na receptę, a relacja miała obejmować akty bez zgody.
Sztuczna inteligencja wygenerowała również fałszywe linki do rzekomych artykułów prasowych, które miały potwierdzać te informacje. Jak poinformowało biuro senator Blackburn, odnośniki prowadziły do stron z błędami lub do treści zupełnie niezwiązanych ze sprawą.
W liście do prezesa Google, Sundara Pichaia, senator Blackburn stwierdziła, że model Gemma „sfabrykował poważne oskarżenia kryminalne” i nazwała to „aktem zniesławienia”. Podkreśliła, że publicznie dostępne narzędzie generujące fałszywe zarzuty wobec urzędującego senatora stanowi „katastrofalne fiasko nadzoru i odpowiedzialności etycznej”.
W odpowiedzi na zarzuty, Google usunęło model Gemma z ogólnodostępnego AI Studio, pozostawiając go jedynie dla deweloperów poprzez interfejs API. Firma wyjaśniła, że Gemma nigdy nie była przeznaczona do użytku konsumenckiego, a problem tzw. „halucynacji AI” ma charakter branżowy.
Senator Blackburn stwierdziła, że „Google ma długą historię atakowania, cenzurowania i oczerniania konserwatystów”, a „halucynacje” Gemmy są niebezpieczne i niepokojące. Dodała, że firma jest winna Amerykanom odpowiedzi za przedstawianie zmyślonych oskarżeń jako faktów.
To nie pierwszy raz, gdy Google spotyka się z zarzutami o uprzedzenia wobec konserwatystów. W sierpniu firma była krytykowana za rzekome oznaczanie e-maili fundraisingowych republikanów jako spam, podczas gdy wiadomości od demokratów miały trafiać do skrzynek odbiorczych bez problemów. Google zaprzeczyło zarzutom.
Źródło: https://tvn24.pl/biznes/tech/google-ogranicza-model-sztucznej-inteligencji-halucynacje-ai-st8736443
