Byli i obecni badacze czołowych firm technologicznych ostrzegają, że niekontrolowany rozwój sztucznej inteligencji stwarza egzystencjalne zagrożenie dla ludzkości. Według niektórych ocen, prawdopodobieństwo wyginięcia człowieka z powodu AI jeszcze w tej dekadzie przekracza 10%, co skłania liderów branży do apeli o spowolnienie prac nad najbardziej zaawansowanymi modelami.
Coraz głośniej wybrzmiewają alarmujące głosy osób bezpośrednio zaangażowanych w tworzenie AI. Jacob Coxon, były badacz z firmy Anthropic, twierdzi, że technologia ta może „nas wszystkich zabić przed końcem dekady”. Jego zdaniem zagrożenie dla ludzkości może pojawić się w perspektywie zaledwie kilku lat, a nie odległych dekad.
Podobne obawy wyraża Evan Hubinger, który swoje osobiste szacunki dotyczące ryzyka wyginięcia ludzkości w ciągu najbliższych dziesięciu lat określił na ponad 10 procent. Zaznaczył przy tym, że nie jest to naukowy konsensus, a jego prywatna ocena. Z kolei Dario Amodei, szef Anthropic, ostrzega przed innym, bardziej bezpośrednim zagrożeniem. Przewiduje on, że już w ciągu roku roje autonomicznych agentów AI mogą przejąć znaczną część aktywności w internecie, co może prowadzić do nieprzewidywalnych i niebezpiecznych konsekwencji.
Jednym z kluczowych czynników eskalujących zagrożenie jest presja rynkowa. Eksperci wskazują, że intensywna rywalizacja między korporacjami technologicznymi zmusza je do podejmowania coraz większego ryzyka w pogoni za stworzeniem najpotężniejszych modeli AI. Nawet firmy, które deklarują dbałość o bezpieczeństwo, mogą ignorować pewne środki ostrożności, by nie zostać w tyle za konkurencją.
Presja konkurencji może skłaniać firmy do podejmowania coraz większego ryzyka, aby nie przegrać z rywalami, nawet jeśli traktują bezpieczeństwo poważnie.
To właśnie ten „wyścig zbrojeń” sprawia, że coraz więcej liderów branży opowiada się za spowolnieniem prac i wprowadzeniem międzynarodowych regulacji. Jacob Coxon wprost domaga się współpracy między firmami a międzynarodowymi instytucjami nadzorującymi, aby wspólnie ograniczyć rosnące ryzyko.
Jak dokładnie superinteligencja mogłaby doprowadzić do zagłady? Instytut Spraw Obywatelskich kreśli niepokojącą analogię. Tak jak człowiek, stając się najinteligentniejszym gatunkiem na Ziemi, przekształcił dziką przyrodę w farmy, drogi i miasta, tak superinteligencja – znacznie przewyższająca ludzkie możliwości poznawcze – mogłaby zacząć optymalizować planetę pod własne cele.
W tym scenariuszu Ziemia mogłaby zostać pokryta panelami słonecznymi i centrami danych, które są potrzebne sztucznej inteligencji do istnienia i rozwoju. W takim świecie człowiek, podobnie jak dzikie zwierzęta w epoce antropocenu, stałby się przeszkodą, którą superinteligencja mogłaby po prostu wyeliminować w dążeniu do realizacji swoich celów. Nie z nienawiści, ale z czystej, chłodnej logiki optymalizacyjnej.
Bunt AI coraz bliżej. Badacz mówi o ryzyku dla ludzkości, Interia Biznes. https://biznes.interia.pl/gospodarka/news-grozny-scenariusz-dla-ludzkosci-ai-budzi-coraz-wiekszy-strac,nId,23544302
Jeśli nic nie zrobimy, AI może doprowadzić do zagłady ludzkości, Instytut Spraw Obywatelskich. https://instytutsprawobywatelskich.pl/jesli-nic-nie-zrobimy-ai-moze-doprowadzic-do-zaglady-ludzkosci/
„AI może nas wszystkich zabić”. Dlaczego jej twórcy biją na alarm i dalej ją rozwijają?, MyCompany Polska. https://mycompanypolska.pl/artykul/-ai-moze-nas-wszystkich-zabic-dlaczego-jej-tworcy-bija-na-alarm-i-dalej-ja-rozwijaja/21130
AI zagrożeniem dla ludzkości? Oto, co mówią mądrzy ludzie, Business Insider Polska. https://businessinsider.com.pl/technologie/nowe-technologie/ai-zagrozeniem-dla-ludzkosci-oto-co-mowia-madrzy-ludzie/g2cf29v
Najbardziej prawdopodobne scenariusze końca świata. Eksperci wskazali zagrożenia, Business Insider Polska. https://businessinsider.com.pl/technologie/nauka/najbardziej-prawdopodobne-scenariusze-konca-swiata-eksperci-wskazali-zagrozenia/2z3lr4w
