Tekoälyyritys Anthropic on esitellyt Yhdysvaltain lainsäätäjille lakiluonnoksen, joka koskee kehittyneiden tekoälymallien turvallisuutta. Luonnoksen on kerrottu olevan luottamuksellinen. Yhtiön mukaan se perustuu sen Advanced AI Framework -ehdotuksiin. Luonnos muistuttaa Kalifornian SB 53 -lakia.
Lakiluonnoksen mukaan hallinto voisi estää mallin julkaisun tai käytön vain poikkeuksellisessa tilanteessa. Riskin pitäisi olla ennakoitavissa ja välitön. Sen pitäisi koskea yli miljardin dollarin vahinkoja tai yli 50 ihmisen kuolemaa tai vakavaa loukkaantumista. Lisäksi vaaran pitäisi liittyä biologisen aseen luomiseen tai julkaisuun, kyberhyökkäykseen tai siihen, että malli kiertää kehittäjänsä hallinnan.
Kauppaministeriöön rekisteröidyt riippumattomat arvioijat tarkistaisivat tekoälyyrityksiä ja niiden malleja säännöllisesti. Yritykset saisivat maksaa arvioijille, jos maksu ei riipu arvioinnin tuloksesta. Jos arvioija havaitsee luonnoksen mukaisen välittömän riskin, siitä pitäisi ilmoittaa kauppaministeriölle 72 tunnissa.
Ministeriö ei saisi pysäyttää mallia itse. Sen pitäisi pyytää pysäytystä liittovaltion tuomarilta Washingtonissa, ja päätöksen tekisi tuomari. Muut liittovaltion viranomaiset eivät saisi pysäyttää mallin kehitystä tai käyttöä omin päätöksin.
