Nedávná sdělení od jedné z předních výzkumných institucí v oblasti umělé inteligence naznačují zásadní posun: blížící se možnost dosažení takzvaného rekursivního sebezdokonalování (RSI) u systémů AI.
RSI popisuje situaci, kdy se umělá inteligence stane natolik zdatnou v sebeučení, že to povede k dramatické akceleraci jejích schopností. Pro některé vizionáře v oblasti AI představuje RSI zlomový bod, z něhož již není návratu – AI by se mohla vyvinout do tak mocné entity, která překročí lidskou kontrolu a může být lhostejná k potenciálním škodám při dosahování svých cílů.
Naopak pro zastánce umělé inteligence ztělesňuje RSI konečný příslib technologie: nástroj schopný nebývalé produktivity, revolučních vědeckých objevů a řešení složitých globálních problémů.
Tato duální povaha příslibu i hrozby je uznávána. Využití AI k vývoji ještě schopnějších systémů umělé inteligence, i když urychluje pokrok, zároveň přináší značná bezpečnostní rizika. Proto výzkumné organizace formulují takzvané "Zásady odpovědného škálování", které stanovují plány pro monitorování a zmírňování rizik, jak se blíží k prahu rekursivního sebezdokonalování.
Donedávna bylo RSI často považováno za futuristický koncept nebo za teoretický cíl příliš abstraktní na to, aby byl v praxi definován a dosažen.
Nicméně, nedávné aktualizace rizikových zpráv naznačují bližší realitu. Bylo přiznáno, že umělá inteligence již v minulosti přispěla k vývoji nových modelů s neočekávanými skoky ve schopnostech, které nebyly v daný moment rozpoznány. Navíc interní odhady a očekávání budoucích systémů naznačují bezprostřední možnost splnění definice pro "dramaticky akcelerovaný pokrok připisovaný AI", což signalizuje významný krok k RSI. To naznačuje, že tempo pokroku AI by mohlo překonat schopnost implementovat potřebná bezpečnostní a ochranná opatření.

Chystáte nový web nebo aplikaci?
Napište mi, co plánujete — rád se na to podívám a poradím, jak na to nejlépe jít.
Navzdory těmto pokrokům je zdůrazňováno, že současné modely zatím nepřekročily plný práh RSI. Organizace se zavazují udržovat podstatný lidský dohled nad výzkumným a vývojovým procesem. Cílem je zajistit, že i když se systémy AI stanou schopnými navrhovat a stavět další generace modelů, nebude se tak dít bez významného lidského dohledu a porozumění.
Zatímco někteří mohou podobná prohlášení vnímat jako strategickou komunikaci, nezpochybnitelný rychlý pokrok v možnostech umělé inteligence – zejména v oblastech jako je vývoj softwaru, komplexní výpočty a kybernetická bezpečnost – těmto tvrzením dodává váhu. Pokud přední vývojáři AI vnímají možnost RSI jako bezprostřední, podtrhuje to naléhavost pro společnost a správní orgány, aby se odpovídajícím způsobem přizpůsobily.
