„Csak gázpedálunk van, fék nincs" – az Anthropic figyelmezteti a világot, miközben 965 milliárd dolláros tőzsdére készül

„Csak gázpedálunk van, fék nincs" – az Anthropic figyelmezteti a világot, miközben 965 milliárd dolláros tőzsdére készül

Az Anthropic, a Claude AI fejlesztője figyelmeztetést adott ki a rekurzív önfejlesztés veszélyeire, amely során az AI emberi beavatkozás nélkül hozhat létre önmagánál okosabb verziókat. A cég szerint a technológiai fejlődés üteme már most elképesztő: saját kódjuk több mint 80 százalékát már az AI írja. A vállalat egyfajta „fékrendszer” kiépítését sürgeti az iparágban, hogy elkerülhető legyen az ellenőrizhetetlen fejlődés.

Június 5-én az Anthropic – a Claude AI mögött álló cég – közzétett egy blogbejegyzést, amelynek üzenete nagyjából annyi: az AI hamarosan képes lesz önmagát fejleszteni, és erre a világnak még nincs megfelelő válasza. A figyelmeztetés nem ismeretlen hangszerelés. Ami viszont szokatlan: az Anthropic négy nappal korábban, június 1-jén titkos tőzsdei bejelentési papírokat nyújtott be az amerikai tőzsdefelügyeletre – egy várhatóan 1 trillió dollár feletti értékelésű IPO előkészítéseként.

Mi az a rekurzív önfejlesztés, és miért ijesztő?

Az Anthropic blogbejegyzését Jack Clark társalapító és Marina Favaro, az Anthropic Institute kutatási igazgatója írta. A középpontban egy fogalom áll: a rekurzív önfejlesztés. Leegyszerűsítve: ma az AI-modelleket emberek tervezik, tanítják és fejlesztik. A rekurzív önfejlesztés azt a pontot jelenti, amikor az AI-rendszer saját maga tervezi meg és tanítja be a következő, nála okosabb verzióját – emberi beavatkozás nélkül.

Clark és Favaro hangsúlyozza: ezt a pontot még nem érte el az AI-fejlesztés, és nem is elkerülhetetlen. De figyelmeztetnek: „Nem tartunk még ott, és a rekurzív önfejlesztés nem elkerülhetetlen. De korábban következhet be, mint ahogy a legtöbb intézmény erre fel lenne készülve."

A saját adatok – és ami igazán megdöbbentő

A bejegyzés nem pusztán elmélet. Az Anthropic saját belső adataival támasztja alá a figyelmeztetést:

• Az Anthropic kódbázisába beolvasztott kód több mint 80%-át ma már a Claude írja.
• Az Anthropic mérnökei ma nyolcszor annyi kódot adnak be naponta, mint 2024-ben.
• Egy Anthropic-alkalmazott a bejegyzésben megemlíti: „Körülbelül öt hónapja nem írtam egyedül egyetlen sor kódot sem."

Clark a BBC-nek elmondta: a 100%-os AI-írt kód két éven belül elérhető lehet. Az Anthropic AI-teljesítmény-képessége saját adataik szerint nagyjából négy havonta duplázódik.

Mit kér az Anthropic pontosan?

A javaslat nem azonnali leállítás – annál árnyaltabb. Az Anthropic koordinált, ellenőrizhető lassítás vagy szünet lehetőségének megteremtéséért szól, de csak bizonyos feltételek mellett:

1. Csak akkor, ha több jól finanszírozott, határterületi labor egyszerre ért egyet a leállással.
2. Csak ha ez több országban egyszerre valósul meg.

Clark a CNN-nek így fogalmazott: „Amikor lenézek a kocsira, amellyel hajtunk, csak egy gázpedált látok. Fék nincs. Márpedig előbb-utóbb biztosan szükségünk lehet arra a lehetőségre."

A kínos kérdés: miért most, és miért ők?

Az időzítés nem kerülte el a kritikusok figyelmét. Az Anthropic június 1-jén titkos tőzsdei bejelentési papírokat (S-1) nyújtott be az SEC-hez, 965 milliárd dolláros értékelés mellett. Négy nappal később jött a „lassítsunk le" blogbejegyzés. Az NYU professzora és AI-kutató Gary Marcus egyenesen kimondta: az Anthropic nem akar valódi szünetet – ez szerinte IPO-előtti retorika, amellyel a cég megerősíti „felelős AI" imázsát a befektetők előtt.

A SiliconAngle headline-ja mindent összefoglal: „After filing for its IPO, Anthropic says AI should slow down. Fat chance." – vagyis az IPO benyújtása után az Anthropic azt mondja, az AI-nak le kéne lassítania. Esélytelen.

„Hogyan tartod kézben az AI-tudósok egy flottáját, amely sokkal nagyobb és sokkal gyorsabb, mint bármi, amivel eddig dolgod volt?" – tette fel a kérdést Jack Clark.