KI, Ethik und Verantwortung

[stephEH]

ich hab in letzter zeit immer öfter das gefühl das wir bei KI und neuen technologien irgendwie schneller sind als unser nachdenken darüber

alles wird besser, schneller, effizienter… aber kaum jemand fragt wirklich was das eigendlich für uns als menschen bedeutet oder für entscheidungen die wir dann nicht mehr selber treffen

z.b. wenn eine KI entscheidet wer einen kredit bekommt, oder wer im job „geeignet“ ist… wer trägt dann am ende die verantwortung? der entwickler? die firma? oder einfach niemand?

ich will KI gar nicht schlecht reden, ich nutze das selbst jeden tag, aber manchmal fühlt es sich so an als würden wir einfach alles reinwerfen und später schauen wir dann was passiert

findet ihr wir reden genug über ethik bei sowas? oder ist das eher so ein thema das hinter der technik hinterherläuft?

würd mich echt interessieren wie ihr das seht

 

[Ninna]

Hey,


du sprichst da etwas an, das mich ehrlich gesagt auch beschäftigt. Und ich glaube du hast recht, dass das Tempo der Entwicklung und das Tempo des gesellschaftlichen Nachdenkens darüber gerade ziemlich weit auseinanderliegen.


Die Frage nach der Verantwortung finde ich dabei besonders schwierig. Bei einem Kredit oder einer Bewerbung, die eine KI bewertet, passiert ja genau das, was du beschreibst. Die Entscheidung fühlt sich neutral und objektiv an, weil eine Maschine sie trifft. Aber dahinter stecken immer noch Menschen, die das System gebaut, trainiert und entschieden haben, es einzusetzen. Das Problem ist nur, dass diese Verantwortungskette oft sehr lang und sehr undurchsichtig ist. Und wenn am Ende etwas schiefläuft, ist es schwer zu sagen, wer genau dafür geradestehen muss.


Was Ethik in dem Bereich angeht, gibt es sie schon, aber ich glaube du hast recht, dass sie meistens hinterherläuft. Es gibt Forscher und Organisationen, die sich intensiv damit beschäftigen, aber in der breiten öffentlichen Diskussion kommt das Thema oft erst dann an, wenn schon etwas schiefgegangen ist.


Ich glaube das liegt auch daran, dass technologischer Fortschritt sich sehr greifbar anfühlt, während ethische Fragen erstmal abstrakt wirken. Man kann eine neue App anfassen, eine KI ausprobieren. Aber "wer trägt die Verantwortung wenn ein Algorithmus diskriminiert" ist eine Frage, über die man erstmal nachdenken muss.


Ich nutze KI auch täglich und finde sie in vielem wirklich nützlich. Aber genau deswegen finde ich es wichtig, dass Leute wie du solche Fragen laut stellen, weil die Alternative wäre, es einfach laufen zu lassen und später zu schauen was passiert. Und das kann es ja nicht sein.

 

[Collex]

Hey,


als Programmierer trifft mich dieser Thread ehrlich gesagt nochmal anders als andere Leute, weil ich täglich mit dem Zeug arbeite und mir diese Fragen deshalb nicht nur theoretisch vorkommen.


Was Ninna über die Verantwortungskette sagt stimmt genau. Und ich kann das aus der Entwicklerperspektive noch etwas konkreter machen. Wenn ich ein System baue das Entscheidungen trifft, dann treffe ich dabei selbst schon hundert kleinere Entscheidungen. Welche Daten fließen rein, wie wird gewichtet, was gilt als Fehler. Jede davon hat Konsequenzen die ich zum Zeitpunkt des Schreibens oft gar nicht vollständig überblicken kann. Und dann wird das System deployed, läuft irgendwo, und ich bin längst beim nächsten Projekt.


Das ist für mich das eigentliche Problem. Nicht böse Absicht, sondern Distanz. Zwischen dem Moment wo Code entsteht und dem Moment wo er echte Auswirkungen auf echte Menschen hat liegt oft so viel, dass das Verantwortungsgefühl irgendwo auf der Strecke bleibt.


Ich glaube wir als Entwickler müssen uns da ehrlich gesagt mehr in die Pflicht nehmen als wir es oft tun. Es ist zu einfach zu sagen "ich hab nur den Algorithmus gebaut, der Rest ist Unternehmensentscheidung". Das stimmt technisch vielleicht, aber es fühlt sich zunehmend wie eine Ausrede an.


Was mich bei dem Thema am meisten beschäftigt ist dass die Leute die am meisten über die ethischen Fragen nachdenken oft nicht diejenigen sind die den Code schreiben. Und die die den Code schreiben haben oft nicht die Zeit oder den Raum im Arbeitsalltag um wirklich darüber nachzudenken. Das ist eine Lücke die ich nicht einfach wegdiskutieren kann.


Ich bin gespannt ob sich das in den nächsten Jahren ändert oder ob wir tatsächlich erst auf ein paar große Fails warten müssen bevor es wirklich ernst genommen wird.