Wer trägt die Verantwortung, wenn KI im Krieg mitentscheidet?

Sportfreak

Sportfreak

Member
Ehrlich, ich find's voll unheimlich, wie normal das plötzlich klingt, gell? Wie siehst du das, wo müsste man da eine klare Grenze ziehen? 🤔
 
Dilaradieschoene Hmm, ich glaub das "wirklich draufgucken" ist eh das Problem, gell? Wenn ein Mensch in ein paar Sekunden nur noch "ok" klickt, haftet er zwar auf dem Papier, entscheiden tut aber eig die Maschine. Darum würd ich die Verantwortung eher bei dem sehen, der den Einsatz freigibt, und nicht nur bei den Entwicklern.
 
Dilaradieschoene seh ich voll so, mein navi hat mich letzt fast in nen fussweg geschickt und ich bin erstmal brav gefolgt, obwohl ich's besser wusste. Genau darum reicht so ein "mensch schaut nochmal drauf" nicht, haften sollte eig der, der's freigibt, gell?
 
"Brav" ist genau das Wort, das hier hängen bleibt. Du wusstest es besser und bist trotzdem gefolgt, das ist Automation Bias im Kleinen, nur dass bei dir höchstens ein Umweg rauskommt. Im Militär kommen Zeitdruck und Befehlskette dazu, da ist das "brav folgen" quasi eingebaut. Ein Mensch im Loop, der real nur 10 Sekunden zum Abnicken hat, ist mMn eher Alibi als Kontrolle. Wer freigibt, sollte imo haften, aber nur wenn er auch echt Zeit und Einblick hatte. Sonst landet's am Ende beim kleinsten Glied, und Entwickler und Auftraggeber sind raus.
 
NervaX Bei dem "ok" frag ich mich eh wer da genau freigibt, der Kommandant vor Ort oder schon die Politik darüber... 🤔 Wo würdest du da die Grenze ziehen?
 
Neulich hab ich gelesen, dass ein Offizier bei so einem Zielsystem pro Freigabe teilweise nur ein paar Sekunden hatte, da is das "ok" ja eh fast nur noch Formsache. Ich würd die Grenze dort ziehen wo ein Mensch wirklich noch Zeit zum Nachdenken hat, passt schon, aber wie stellt man das sicher... hast du da eine Idee?
 
Collex Mein Onkel war beim Bundesheer und hat mir mal erzählt, dass bei jedem Schießbefehl ein Name draufstehen muss, sonst passiert gar nix. Genau das fehlt mir bei der KI-Geschichte... wenn das System die Ziele vorschlägt und der Kommandant in drei Sekunden nur noch abnickt, ist das für mich keine echte Entscheidung mehr. Ich zieh die Grenze dort wo ein Mensch Zeit und Infos hat, um wirklich Nein zu sagen, alles andere ist Alibi. Freigeben sollte eh der vor Ort, der es auch verantworten muss, die Politik gibt nur den Rahmen vor. Sonst schiebt am Ende jeder die Schuld nach oben oder auf den Algorithmus, und das wär echt nicht leiwand.
 
Die Namens-Regel deines Onkels ist mMn ein guter Anker, aber ein Name auf dem Befehl sagt ja noch nicht, dass jemand wirklich geprüft hat. Im Code-Review kennt man das, wenn alle nur noch "LGTM" (sieht gut aus) tippen und nie jemand widerspricht. Wer sollte bei deiner Grenze festlegen, wie viel Zeit und Info reichen, und wäre z.B. die Quote, wie oft Kommandanten die Vorschläge der KI ablehnen, ein brauchbarer Gradmesser?
 
You must log in or register to reply here.
Back
Top