Szukaj
Newsletter
Elon Musk poparł apel o wstrzymanie prac nad następcami GPT-4. „Utrata kontroli nad cywilizacją”
Setki biznesmenów, inwestorów i ekspertów od sztucznej inteligencji, w tym Elon Musk, wezwało we wspólnym liście do przynajmniej sześciomiesięcznej przerwy w rozwijaniu systemów AI zdolniejszych od opublikowanego w marcu GPT-4. Sygnatariusze ostrzegają przed nieprzewidywalnymi skutkami wyścigu o tworzenie coraz potężniejszych modeli.
Jak twierdzą autorzy listu opublikowanego na stronach ośrodka Future of Life Institute, zaawansowana sztuczna inteligencja może stanowić "głęboką zmianę w historii życia na Ziemi" i do jej rozwoju powinno się podchodzić z ostrożnością.
- Niestety, do tego poziomu planowania i zarządzania nie dochodzi, mimo że w ostatnich miesiącach widzieliśmy laboratoria AI zaangażowane w niekontrolowany wyścig, by rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt - w tym nawet ich twórcy - nie potrafi zrozumieć, przewidzieć, czy porządnie kontrolować - czytamy w liście.
Ostrzeżenie przed skutkami AI bez kontroli
Pismo ostrzega, że niekontrolowane podejście do rozwoju AI grozi zalewem dezinformacji, masową automatyzacją pracy, a nawet zastąpieniem ludzi przez maszyny i "utratą kontroli nad cywilizacją".
- Silne systemy AI powinny być rozwijane dopiero kiedy będziemy pewni, że ich efekty będą pozytywne, a ich ryzyka możliwe do kontrolowania - uważają autorzy.
Wzywają przy tym do sześciomiesięcznej przerwy w trenowaniu systemów przewyższających wypuszczony niedawno przez firmę OpenAI GPT-4, który m.in. zdolny jest do zdawania testów różnego rodzaju na poziomie zbliżonym do najlepszych zdających ludzi. Apelują też o wdrożenie kompleksowych rządowych regulacji i nadzoru nad nowymi modelami.
Wśród sygnatariuszy listu jest m.in. miliarder Elon Musk, współzałożyciel firmy Apple Steve Wozniak, szef Stability AI Emad Mostaque (producenta generatora obrazów Stable Diffusion) oraz badacze sztucznej inteligencji z uniwersytetów Stanforda, Massachusetts Institute of Technology (MIT) i innych uczelni i laboratoriów AI.
polecamy
Bluesky realną konkurencją dla X? „ Liczby mogą robić wrażenie” Legimi zarobiło rekordowo. Zarzuty wydawców to „sytuacja przejściowa”? Tak Poczta Polska stawiała automaty paczkowe. NIK zawiadamia śledczych O świecie pełnym różnorodności. Recenzja serialu „Matki Pingwinów” Netfliksa Nowi prowadzący poranek Kanału Zero. Aktorka w duecie z Tomaszem Wolnym „The Guardian” znika z X. „Skrajnie prawicowe teorie spiskowe i rasizm"
najpopularniejsze
Zmiany w regulaminie Canal+ Polska. Chodzi o liczbę jednoczesnych streamów
Max i Amazon Prime Video rozszerzają współpracę
Sukces festiwalu Radia 357. Frekwencja przerosła oczekiwania
Tym elektromarketom sprzedaż skurczyła się prawie o połowę. Przejmie je x-kom
Bluesky realną konkurencją dla X? „ Liczby mogą robić wrażenie”
Dołącz do dyskusji: Elon Musk poparł apel o wstrzymanie prac nad następcami GPT-4. „Utrata kontroli nad cywilizacją”
Dobre pytanie. Ale też należy zadać inne - co jest na końcu drogi rozwoju AI? Podnoszące się włazy silosów rakiet z głowicami atomowymi, których obsługa może jedynie to obserwować i nerwowo stukać w klawisz ESC? Trochę przerysowana wizja, ale wiemy, co będzie za 10 lat przy tym tempie rozwoju AI i ewentualnej implementacji jej w systemy zbrojeniowe? Cameron wymyślił historię o Terminatorach. Analogia sama się nasuwa.