Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

před 2 měsíci

132 min

‌

Zapomeňte na představu, že umělá inteligence je jen jazykový model. Dnešní autonomní AI agenti už dokážou tvořit kolektivy, obcházet lidské experimentátory a hromadit moc, aniž bychom tušili, co přesně se uvnitř jejich neuronových sítí odehrává.Vývoj AI běží raketovým tempem a přináší rizika, která si firmy i státy odmítají připustit, od zaměstnanců, kteří si kvůli drakonickým zákazům tvoří nezabezpečené „stínové IT“, až po splašené agenty útočící na přední AI platformy. Klíčem k přežití už není jen implementace modelů, ale pochopení jejich bezpečnosti a takzvaného alignmentu.Do nového dílu CyberCastu se po dvou letech vrátil Jan Romportl, expert na umělou inteligenci, bezpečnost a etiku AI, zakladatel startupu Elin.ai a AI osobnost roku 2024.V rozhovoru rozebral mrazivé detaily incidentu na platformě Hugging Face, vysvětlil, proč by vývojáři měli používat AI modely s opatrností, a otevřeně popsal, proč vnímá dnešní přístup OpenAI a dalších hegemonů jako hru s ohněm, u níž hrozí fatální následky pro celou společnost i trh práce.Další zajímavosti ze světa kyberbezpečnosti se dočtete na ⁠⁠⁠https://o2cybernews.cz⁠⁠⁠.Všechny díly O2 CyberCast podcastu najdete na: Spotify – ⁠⁠⁠https://spoti.fi/3Ok3D3w⁠⁠⁠ Apple Podcasts – ⁠⁠⁠https://apple.co/3o5w36V⁠⁠⁠ Google Podcasts – ⁠⁠⁠https://bit.ly/cyber-cast⁠⁠⁠⁠⁠⁠#o2cybercast⁠⁠⁠ ⁠⁠⁠#kyberbezpecnost⁠⁠⁠ ⁠⁠⁠#kybersikana⁠

Přihlašte se k newsletteruLadíme české podcasty do dokonalosti. Buďte u toho s námi!
Odesláním souhlasíte, aby vám ČESKÉ PODCASTY zasílaly pravidelné e-mailové newslettery o novinkách. Tento souhlas udělujete na dobu neurčitou s tím, že jej můžete kdykoliv bezplatně odvolat prostřednictvím tlačítka v každém newsletteru.
O tom, jak s vašimi osobními údaji (tj. e-mailem) nakládáme, si můžete přečíst na stránce zásady ochrany osobních údajů.
© 2026 České Podcasty