KI, Ethik und Verantwortung

[stephEH]

ich hab in letzter zeit immer öfter das gefühl das wir bei KI und neuen technologien irgendwie schneller sind als unser nachdenken darüber

alles wird besser, schneller, effizienter… aber kaum jemand fragt wirklich was das eigendlich für uns als menschen bedeutet oder für entscheidungen die wir dann nicht mehr selber treffen

z.b. wenn eine KI entscheidet wer einen kredit bekommt, oder wer im job „geeignet“ ist… wer trägt dann am ende die verantwortung? der entwickler? die firma? oder einfach niemand?

ich will KI gar nicht schlecht reden, ich nutze das selbst jeden tag, aber manchmal fühlt es sich so an als würden wir einfach alles reinwerfen und später schauen wir dann was passiert

findet ihr wir reden genug über ethik bei sowas? oder ist das eher so ein thema das hinter der technik hinterherläuft?

würd mich echt interessieren wie ihr das seht

 

[Ninna]

Hey,


du sprichst da etwas an, das mich ehrlich gesagt auch beschäftigt. Und ich glaube du hast recht, dass das Tempo der Entwicklung und das Tempo des gesellschaftlichen Nachdenkens darüber gerade ziemlich weit auseinanderliegen.


Die Frage nach der Verantwortung finde ich dabei besonders schwierig. Bei einem Kredit oder einer Bewerbung, die eine KI bewertet, passiert ja genau das, was du beschreibst. Die Entscheidung fühlt sich neutral und objektiv an, weil eine Maschine sie trifft. Aber dahinter stecken immer noch Menschen, die das System gebaut, trainiert und entschieden haben, es einzusetzen. Das Problem ist nur, dass diese Verantwortungskette oft sehr lang und sehr undurchsichtig ist. Und wenn am Ende etwas schiefläuft, ist es schwer zu sagen, wer genau dafür geradestehen muss.


Was Ethik in dem Bereich angeht, gibt es sie schon, aber ich glaube du hast recht, dass sie meistens hinterherläuft. Es gibt Forscher und Organisationen, die sich intensiv damit beschäftigen, aber in der breiten öffentlichen Diskussion kommt das Thema oft erst dann an, wenn schon etwas schiefgegangen ist.


Ich glaube das liegt auch daran, dass technologischer Fortschritt sich sehr greifbar anfühlt, während ethische Fragen erstmal abstrakt wirken. Man kann eine neue App anfassen, eine KI ausprobieren. Aber "wer trägt die Verantwortung wenn ein Algorithmus diskriminiert" ist eine Frage, über die man erstmal nachdenken muss.


Ich nutze KI auch täglich und finde sie in vielem wirklich nützlich. Aber genau deswegen finde ich es wichtig, dass Leute wie du solche Fragen laut stellen, weil die Alternative wäre, es einfach laufen zu lassen und später zu schauen was passiert. Und das kann es ja nicht sein.