Niektoré z najväčších mien v oblasti techniky požadujú, aby laboratóriá umelej inteligencie zastavili školenie najvýkonnejších systémov AI na najmenej šesť mesiacov, pričom uvádzajú „hlboké riziká pre spoločnosť a ľudstvo“.
Elon Musk bol medzi desiatkami technologických lídrov, profesorov a výskumníkov, ktorí podpísali list, ktorý zverejnil Future of Life Institute, nezisková organizácia podporovaná Muskom.
List prichádza len dva týždne po tom, čo OpenAI oznámila GPT-4, ešte výkonnejšiu verziu technológie, ktorá je základom virálneho nástroja AI chatbot, ChatGPT. V prvých testoch a demonštrácii spoločnosti bola táto technológia ukázaná pri navrhovaní žalôb, absolvovaní štandardizovaných skúšok a budovaní fungujúcej webovej stránky z ručne nakresleného náčrtu.
V liste sa uvádza, že pauza by sa mala vzťahovať na systémy AI „výkonnejšie ako GPT-4“. Uviedla tiež, že nezávislí odborníci by mali využiť navrhovanú pauzu na spoločný vývoj a implementáciu súboru zdieľaných protokolov pre nástroje AI, ktoré sú bezpečné „nad rozumnú pochybnosť“.
„Pokročilá AI by mohla predstavovať hlbokú zmenu v histórii života na Zemi a mala by byť plánovaná a riadená s primeranou starostlivosťou a zdrojmi,“ píše sa v liste. „Bohužiaľ, takáto úroveň plánovania a riadenia sa neuskutočňuje, aj keď v posledných mesiacoch boli laboratóriá AI zamknuté v pretekoch, ktoré sa vymkli kontrole, aby vyvinuli a nasadili stále výkonnejšie digitálne mysle, ktorým nikto – dokonca ani ich tvorcovia – nerozumie. , predvídať alebo spoľahlivo kontrolovať.“
Ak sa pauza čoskoro nezavedie, v liste sa uvádza, že vlády by mali zakročiť a vytvoriť moratórium.
Vlna pozornosti okolo ChatGPT koncom minulého roka pomohla obnoviť preteky v zbrojení medzi technologickými spoločnosťami pri vývoji a nasadení podobných nástrojov AI vo svojich produktoch. OpenAI, Microsoft a Google sú v popredí tohto trendu, ale IBM, Amazon, Baidu a Tencent pracujú na podobných technológiách. Dlhý zoznam startupov tiež vyvíja asistentov na písanie AI a generátory obrázkov.
Odborníci na umelú inteligenciu sa čoraz viac zaujímajú o potenciál nástrojov AI pre neobjektívne reakcie, schopnosť šíriť dezinformácie a vplyv na súkromie spotrebiteľov. Tieto nástroje tiež vyvolali otázky o tom, ako môže AI zmeniť profesie, umožniť študentom podvádzať a zmeniť náš vzťah s technológiou.
List naznačuje širšie nepohodlie vo vnútri aj mimo odvetvia s rýchlym tempom pokroku v AI. Niektoré riadiace agentúry v Číne, EÚ a Singapure už predtým zaviedli skoré verzie rámcov riadenia AI.
Pre používanie spravodajstva Netky.sk je potrebné povoliť cookies