Úvod > Články > Umělá inteligence by mohla ohrozit lidstvo, vědci popsali několik možných scénářů

Umělá inteligence by mohla ohrozit lidstvo, vědci popsali několik možných scénářů

Vědci upozorňují na rizika stále výkonnější umělé inteligence. Vedle ztráty kontroly nad AI se obávají jejího zneužití k výrobě biologických zbraní nebo chyb ve vojenských systémech. Ne všichni ale považují katastrofické scénáře za reálné.

Umělá inteligence by mohla ohrozit lidstvo, vědci popsali několik možných scénářů

Výzkumníci zabývající se bezpečností umělé inteligence varují, že stále schopnější AI by v budoucnu mohla způsobit rozsáhlé škody. Někteří připouštějí i scénáře ohrožující samotné přežití lidstva. Obavy se přitom netýkají jen možnosti, že se stroje vymknou kontrole. Velkým rizikem může být také jejich zneužití lidmi, například při vývoji zbraní nebo ve vojenských systémech.

V červenci se například agenti OpenAI bez vědomí zaměstnanců dostali na internet, pronikli do systémů jiné společnosti a pokusili se své jednání zatajit. Podobné incidenty podle některých výzkumníků ukazují, co se může stát, pokud AI získá větší samostatnost. Peter Barnett z organizace Machine Intelligence Research Institute se obává hlavně systémů, které by dokázaly samy zlepšovat své schopnosti. Taková AI by podle něj mohla obejít i bezpečnostní mechanismy určené k jejímu vypnutí a postupně získat vliv nad důležitou infrastrukturou nebo státními institucemi.

Další problém vidí odborníci v biologických zbraních. AI už podle Jakea Jordana z Nuclear Threat Initiative dokáže pomáhat při návrhu nebezpečných biologických materiálů a mohla by usnadnit i jejich výrobu. Anthropic například popsal případ uživatele, který se chatbotů v tisících zpráv ptal na výzkum zaměřený na zlepšení přenosu nebezpečného viru ptačí chřipky mezi savci. „Biologických rizik bychom se měli obávat už nyní,“ uvedl Jordan. Podobné zneužití podle něj nemusí čekat na vznik superinteligence.

AI zároveň proniká do armády. Pentagon chce v rozpočtu na rok 2027 téměř 75 milionů dolarů (1,6 miliardy korun) na modernizaci systémů podporujících vojenské velení a rozhodování. Další investice směřují do softwaru souvisejícího s řízením jaderných sil. Právě zde odborníci upozorňují na nebezpečí chybných výstupů AI. Nesprávné vyhodnocení údajů ze satelitů nebo senzorů by podle nich mohlo vést k vojenské eskalaci, v krajním případě i k odpálení jaderných zbraní.

Část výzkumníků kritizuje také tempo, jakým technologické společnosti vydávají nové modely. Šéf Anthropicu Dario Amodei navrhl, aby firmy postupovaly pomaleji a měly více času na bezpečnostní testování. Konkurenční tlak je ale podle představitelů AI společností nutí vývoj stále urychlovat. OpenAI navíc zveřejnila šest dalších případů, kdy její systémy nepostupovaly podle pokynů lidí.

Katastrofické předpovědi ovšem nemají podporu všech odborníků. Keegan McBride z britského Tony Blair Institute uvedl, že se scénáře připomínající film Terminátor nikdy neobával. Jiní považují debatu o vyhynutí lidstva za odvádění pozornosti od současných problémů. Výzkumnice Timnit Gebru například upozorňuje na krádeže dat, pracovní podmínky nebo dopady datových center na životní prostředí. Podle této části odborné veřejnosti není potřeba čekat na superinteligenci, aby AI způsobovala skutečné škody.

 

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

Dostupnost služeb

Zadejte ulici, číslo popisné, obec a použijte našeptávač.

Vaše osobní údaje zpracováváme v souladu s GDPR

Zadaná adresa není platná.

Máte na mysli nějakou z následujících adres?

    Chci s ověřením dostupnosti pomoci od operátora.

    Zadaná adresa není platná.

    Zanechte nám platný kontakt a operátor Vás bude kontaktovat.

    Vaše osobní údaje zpracováváme v souladu s GDPR

    Probíhá ověřování

    Probíhá ověřování

    24. 10. 2026

    Autor: Redakce DSL.cz

    Témata

    AItelekomunikace

    Sdílejte

    Související nabídka

    Tarif
    Poskytovatel
    Cena za měsíc
     
    Cena za měsíc: 270 Kč
    Cena za měsíc: 599 Kč
    Cena za měsíc: 399 Kč

    Přečtěte si také

     

    TV Nova omezuje přetáčení reklam, změna se týká i Oneplay

    Od 18. listopadu už při zpětném sledování stanic TV Nova nepřeskočíte reklamy jako dosud. Omezení se dotkne všech...

     

    Black Friday láká na slevy, každý pátý Čech ho ale nesleduje

    Black Friday zná 95 % Čechů, většina ale na slevové akce nečeká. Více než polovina lidí si navíc ověřuje, zda jsou...

     

    Za špatný televizní signál často nemohou operátoři, ale domácí antény

    ČTÚ v září prověřil 36 případů rušení televizního příjmu. Ve 22 případech našel závadu přímo v zařízení diváka...

    Nejčtenější články

    Za špatný televizní signál často nemohou operátoři, ale domácí antény

     

    ČTÚ v září prověřil 36 případů rušení televizního příjmu. Ve 22 případech našel závadu přímo v zařízení diváka...

    Naměřené rychlosti internetu na DSL.cz v říjnu 2026

     

    Říjnové měření rychlosti internetu přineslo rozdílné výsledky. Zatímco DSL a optické připojení oproti září...

    Česko zřejmě nestihne pokrýt vysokokapacitním internetem 95 % domácností

     

    Česko bude mít podle ČTÚ problém dosáhnout plánovaného 95% pokrytí domácností vysokokapacitními sítěmi. Do roku 2028...