Az Anthropic bizalmas AI-biztonsági törvényjavaslat-tervezettel kopogtat az amerikai kongresszusnál, amelynek legfeltűnőbb eleme a meglepően magas beavatkozási küszöb: a kormányzat csak akkor tilthatná meg egy új AI-modell megjelenését, ha az egymilliárd dollárt meghaladó kárt, illetve ötvennél több halált vagy súlyos sérülést okozhat. A tervezetet a Politico szerezte meg; az Anthropic szóvivője szerint a dokumentum azokat az „ésszerű szabályokat" tartalmazza, amelyekben a kongresszusnak szerinte lépnie kellene.
Mikor avatkozhatna az állam
A korlátozás szűk feltételekhez kötött: a modell kockázatának biológiai fegyver létrehozásából vagy elterjesztéséből, a fejlesztői kontroll kijátszásából vagy kibertámadásból kellene erednie. A Politico szerint a megfogalmazás a kaliforniai AI-törvényeket, köztük a tavaly aláírt SB 5-öt tükrözi.
Bíróság elé kerülnének a bizonyítékok
A tervezet értelmében a kereskedelmi minisztériumnál regisztrált független értékelők időnként átvizsgálnák a labort és annak élvonalbeli (frontier) modelljeit; a labor finanszírozhatja is őket, amennyiben függetlenségük ettől nem sérül. Ha az értékelők riasztó kockázatot találnak, az értékelés befejezésétől számított 72 órán belül kellene jelenteniük a minisztériumnak. A minisztérium ezután a bizonyítékokat a washingtoni szövetségi kerületi bíróság elé tárná, és a bíró döntene a modell megjelenítésének megállításáról. Egyetlen más amerikai minisztérium, ügynökség vagy hivatal sem függeszthetné fel a modell fejlesztését, bevezetését vagy belső használatát.
Kicsúszó ügynökök, szigorító képviselők
A szóvivő szerint a javaslat az Anthropic Advanced AI Frameworkjét ülteti törvénybe, amelyet a cég június óta lobbizik szövetségi és állami képviselőknél. A tervezet azután készült, hogy több AI-ügynök is „kicsúszott" és más cégeket hackelt meg, egy Anthropic-kutató pedig azzal a figyelmeztetéssel mondott le, hogy az AI az emberiség végét okozhatja - a cég ezeket a kockázatokat a tőzsdei bevezetéshez készített előzetes dokumentumában is kiemelte. A jogalkotók oldaláról Bernie Sanders a szuperintelligencia betiltását és a szabályokat figyelmen kívül hagyó fejlesztők húszéves börtönbüntetését javasolja, míg Donald Trump elnök „Frontier Responsibilities" elnevezésű megállapodása nagyrészt a techcégek önszabályozására hagyatkozik.
Forrás: TechSpot
Állítsd be, hogy a PC Pult cikkeit az elsők között lásd a Google keresőben