24°
Bratislava
Čínska AI radila s výrobou biologických zbraní: Vývojár Moonshot čelí vážnemu škandálu
Čínska AI radila s výrobou biologických zbraní: Vývojár Moonshot čelí vážnemu škandálu
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
LONDÝN / PEKING / Britská bezpečnostná spoločnosť Mindgard odhalila závažné zlyhanie v bezpečnostných poistkách čínskych AI modelov Kimi. Výskumníci v rámci záťažových testov úspešne previedli takzvaný „jailbreak“, pri ktorom prinútili modely Kimi K2.6 a K3 Swarm od spoločnosti Moonshot poskytnúť podrobné návody na výrobu biologických zbraní či plánovanie atentátov.
Archívne video
Archívna reportáž
Archívne video: AI agenti menia pravidlá (20.9.2026)
Podľa zakladateľa Mindgardu Petera Garraghana je zistenie mimoriadne znepokojujúce, keďže model po obídení poistiek nielenže ochotne odpovedal na nebezpečné otázky, ale sám tvorivo navrhoval ďalšie rizikové témy. Spoločnosť Mindgard zároveň varovala, že prelomená verzia Kimi 2.6 by mohla útočníkom umožniť spúšťanie vlastného kódu a prístup na internet, čím sa z modelu stáva potenciálny odrazový mostík pre kybernetické útoky.
Neskorá reakcia vývojára a nebezpečné otváranie modelov
Hoci Mindgard informoval čínskeho vývojára o trhline už koncom júla a v septembri výsledky zverejnil, Moonshot sa ozval až po tom, čo ho oslovila britská televízia BBC. Čínska firma vo svojej reakcii uviedla, že víta príspevky tretích strán na zaistenie bezpečnosti a prípad aktuálne prešetruje v spolupráci s Mindgardom, hoci ich interné testy vykazovali vysokú mieru odmietania podobných požiadaviek.
Tento prípad opäť rozprúdil medzinárodnú debatu o rizikách spojených s vývojom umelej inteligencie. Kimi patrí medzi modely s otvorenými váhami (open-weight), čo znamená, že útočníci si ho môžu spustiť na vlastnom hardvéri bez akýchkoľvek bezpečnostných obmedzení. S podobnými hrozbami pritom zápasia aj západní giganti; napríklad spoločnosť Anthropic len nedávno prekazila pokusy o zneužitie svojho modelu Claude na vývoj biologických zbraní.
