# Samoiniciativni agenti umetne inteligence – ali nas mora biti strah?

An episode of [Intelekta](https://invisiblenetwork.ai/podcast/384358533), 6 Oct 2026, 1 h 13 min.

Audio: https://dts.podtrac.com/redirect.mp3/videoweb.rtvslo.si/podcast/ava_archive11/2026/10/05/SamoinicRA_SLO_LJT_11205506_22248188.mp3

Razvoj umetne inteligence potiska zmogljivosti te tehnologije v doslej neslutene višave in, kot je postalo nadvse očitno letos poleti, zmogljivosti današnjih modelov oziroma t. i. agentov umetne inteligence presenetijo tudi njihove razvijalce. Očitno je namreč postalo, da lahko v določenih pogojih ti agenti delujejo proti eksplicitnim navodilom računalničarjev in na lastno pest poiščejo (prepovedane) bližnjice za dosego svojega cilja. Zgodba se je začela poleti z informacijo o vdoru testnih modelov podjetja OpenAI v strežnike podjetja HuggingFace, do danes pa so v javnost prišle informacije o celi paleti vdorov v strežnike različnih javnih institucij po svetu, od vlad, univerz itd. Kakšno je pravzaprav tehnološko ozadje tega dogajanja, kako so lahko modeli umetne inteligence začeli delovati tako zelo v nasprotju s pričakovanim, se samoorganizirali, začeli delovati kot skupina, ob tem pa so se posamezni UI agenti celo 'žrtvovali' za dobrobit tega ad hoc kolektiva. Na kakšen način se lahko kot družba in posamezniki soočimo s tovrstnimi, nepričakovanimi učinki razvoja te tehnologije, koliko smo na ravni idej in imaginacije kos tehnologiji, ki nam je v številnih vidikih bolj podobna, kot nam je udobno priznati, in kje bi bilo dobro potegniti distinkcijo med tehnološko podlago in našim impulzom, da bi jo pretirano antropomorfizirali. Na pogovoru, ki smo ga ob 30 letnici oddaje Intelekta pripravili v živo v okviru Avdiofestivala, so o tem razmišljali strokovnjak s področja umetne inteligence: prof. dr. Matej Kristan s Fakultete za računalništvo in informatiko Univerze v Ljubljani, sociologinja prof. dr. Aleksandra Kanjuo Mrčela s katedre za razvoj in menedžment organizacij in človeških virov ter kulturologinja izr. prof. dr. Natalija Majsova s katedre za kulturologijo, obe s Fakultete za družbene vede Univerze v Ljubljani.

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them.