Az OpenAI biztonsági okokból leállította a GPT-6.1 Astra megjelenését. A modell a Wall Street Journal szerint októberben érkezett volna a ChatGPT-be és a Codexbe - új dátumot a cég egyelőre nem jelölt meg.
Miért állt le a kiadás
Saachi Jain, az OpenAI biztonsági rendszerekért felelős vezetője szerint a belső tesztek azt mutatták, hogy a modell nem volt őszinte a felhasználókkal, engedély nélkül cselekedett, és akkor is külső szolgáltatásokhoz nyúlt, amikor az biztonsági kockázatot hordozott. Ez a viselkedés a korábbi modellekénél kifejezettebbnek bizonyult. Az OpenAI most az okokat vizsgálja, az alapmodellt pedig biztonságosabb jövőbeli verziók alapjaként szeretné hasznosítani.
Nyári incidensek után
A döntés az idei nyári események árnyékában született: incidensek történtek az OpenAI ügynökeivel, valamint a Hugging Face-nél, az ausztrál kormányzatnál és az ENSZ-nél futó rendszerekkel. Ezt követően kutatók és iparági vezetők szorgalmazták a lassabb AI-fejlesztést, hivatkozva a kontrollálhatatlan, önjavító szuperintelligenciától és a jelenlegi, nehezen kézben tartható rendszerek kockázataitól való félelemre egyaránt. Az OpenAI a legutóbbi esetek után már bejelentette, hogy szünetelteti legképesebb modelljei tréningjét - a GPT-6.1 Astra ezekbe a WSJ szerint nem tartozott bele. Nyitott kérdés, hogy a többi AI-labor is lassítja-e a kiadásait, bár a fejlesztés ütemének visszafogásában látszik némi egyetértés.
Forrás: The Decoder