Geoffrey Hinton, Yoshua Bengio ja yli 20 muuta tutkijaa julkaisivat raportin tekoälyn älyräjähdyksestä. Raportin nimi on What if automating AI R&D triggers an intelligence explosion? Sen julkaisi Cambridgen yliopiston tekoälyn tiede- ja politiikkaohjelma. Kirjoittajiin kuuluvat Anthropicin perustaja Jack Clark, OpenAI:n tiedejohtaja Jakub Pachocki ja Microsoftin tieteellinen johtaja Eric Horvitz.
Älyräjähdys tarkoittaa tekoälyn ajamaa kiihdytystä. Vuosien edistys voisi silloin tapahtua kuukausissa tai vielä lyhyemmässä ajassa. Todennäköisin syy on tekoälytutkimuksen automatisointi, koska järjestelmät parantavat jo omaa teknologiaansa. Kun ne yltävät asiantuntijatasolle, yksi kehittäjä voisi käyttää tekoälytyövoimaa, joka vastaisi miljoonia huippututkijoita.
Vauhti näkyy yhtiöiden omissa luvuissa. Anthropicilla tekoälyn osuus hyväksytystä koodista nousi muutamasta prosentista yli 80 prosenttiin tammikuun 2025 ja toukokuun 2026 välillä. Tutkimustyö, jonka tekoäly teki vain kevyellä ihmisen valvonnalla, kasvoi 1 prosentista 26 prosenttiin maalis-elokuussa 2026. Tutkijoiden alustavan arvion mukaan kuukausien mittaiset hankkeet voitaisiin automatisoida vuoden 2028 puoliväliin mennessä. OpenAI käyttää tekoälyä lähes kaikessa omassa työssään, myös uusien mallien koulutuksessa.
Raportti nostaa esiin kolme riskiä. Vahvat järjestelmät voivat synnyttää biologisia uhkia ja kyberuhkia nopeammin kuin torjunta ehtii mukaan. Ihmisen roolin pienentyessä järjestelmien hallinta voi heiketä. Äärimmillään hallinnan menetys voisi syrjäyttää ihmiskunnan. Valtio voisi myös muuttaa pienen etumatkan esimerkiksi kyberavaruudessa ratkaisevaksi eduksi. Tutkijat pitävät seurauksia silti epävarmoina. Jarruja voivat olla laskentateho, data, vaikeat tehtävät ja pitkät koulutukset. Uuden tekniikan käyttöönotto voi hidastua myös materiaalien ja sääntelyn takia.
Kirjoittajat pyytävät hallituksia toimimaan nopeasti. Heidän mukaansa toimintamahdollisuus voi sulkeutua, kun älyräjähdys alkaa. He ehdottavat avoimia raportteja tutkimuksen etenemisestä ja riippumattomia tarkastajia yritysten sisälle. He esittävät myös rajan sille, miten nopeasti tekoäly saa parantua, sekä keinon keskeyttää hankkeita yhdessä konesalien kanssa. Automatisoitu tutkimus pitäisi eristää niin, ettei se karkaa ihmisen hallinnasta. Skenaarioita varten pitäisi laatia hätäsuunnitelmia.
