
Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc
Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc
před 2 měsíci
132 min
Zapomeňte na představu, že umělá inteligence je jen jazykový model. Dnešní autonomní AI agenti už dokážou tvořit kolektivy, obcházet lidské experimentátory a hromadit moc, aniž bychom tušili, co přesně se uvnitř jejich neuronových sítí odehrává.Vývoj AI běží raketovým tempem a přináší rizika, která si firmy i státy odmítají připustit, od zaměstnanců, kteří si kvůli drakonickým zákazům tvoří nezabezpečené „stínové IT“, až po splašené agenty útočící na přední AI platformy. Klíčem k přežití už není jen implementace modelů, ale pochopení jejich bezpečnosti a takzvaného alignmentu.Do nového dílu CyberCastu se po dvou letech vrátil Jan Romportl, expert na umělou inteligenci, bezpečnost a etiku AI, zakladatel startupu Elin.ai a AI osobnost roku 2024.V rozhovoru rozebral mrazivé detaily incidentu na platformě Hugging Face, vysvětlil, proč by vývojáři měli používat AI modely s opatrností, a otevřeně popsal, proč vnímá dnešní přístup OpenAI a dalších hegemonů jako hru s ohněm, u níž hrozí fatální následky pro celou společnost i trh práce.Další zajímavosti ze světa kyberbezpečnosti se dočtete na https://o2cybernews.cz.Všechny díly O2 CyberCast podcastu najdete na: Spotify – https://spoti.fi/3Ok3D3w Apple Podcasts – https://apple.co/3o5w36V Google Podcasts – https://bit.ly/cyber-cast#o2cybercast #kyberbezpecnost #kybersikana
Odkazy
Web podcastuwww.o2.cz
https://ceskepodcasty.cz/podcast/o2-cyber-cast/splaseni-ai-agenti-zjistili-ze-nejsou-sami-vytvorili-kolektiv-a-zacali-hromadit-moc
RSS feed
https://anchor.fm/s/9f29d728/podcast/rss
Přihlašte se k newsletteruLadíme české podcasty do dokonalosti. Buďte u toho s námi!
