Rassistische KI

Google testet in Zusammenarbeit mit Forschern der Universitäten Chicago, Sheffield und der University of the West of England derzeit, ob Künstliche Intelligenz (KI) durch den Lernprozess plötzlich zu einseitigen und diskriminierenden Entscheidungen tendieren kann. Erst im Frühjahr sorgten die Entgleisungen des Chatbots 'Tay' von Microsoft für Negativschlagzeilen und könnten das friedliche Miteinander gefährden.

'Entscheidungen, die auf maschinellem Lernen basieren, können sowohl nützlich sein als auch einen sehr großen Einfluss auf unser Leben haben', so Google-Forscher Moritz Hardt. Aus diesem Grund sei es immer wichtiger zu wissen, ob manche Maschinen womöglich diskriminierende Entscheidungen treffen und ob KI überhaupt feinfühlige Eigenschaften gegeben sind. Der Test soll mit KIs durchgeführt werden, die lernen, Vorhersagen über die Zukunft zu machen, indem sie eine breite Masse von existierenden Daten analysieren.

'Auch wenn wir Zugang zu den Details von Algorithmen haben, sind diese so kompliziert, dass es fast aussichtslos ist, diese zu durchforsten', erklärt Nathan Sebro von der University of Chicago . Im März hatte Microsoft Probleme mit Tay, der aus der Vielzahl seiner erhaltenen Nachrichten gelernt hatte, ein Rassist zu sein. Zahlreiche rassistische Nachrichten führten dazu, dass er einer Überarbeitung unterzogen werden musste.

'Maschinelles Lernen ist großartig, wenn wir es nutzen, um die beste Route für eine neue Öl-Pipeline zusammenzustellen. Bis wir jedoch genau wissen, wie einseitige Neigungen in der KI wirken, wäre ich sehr besorgt darüber, sie Entscheidungen treffen zu lassen, die direkte Auswirkungen auf das Leben von Menschen haben', betont Noel Sharkey von der University of Sheffield abschließend die Wichtigkeit nötiger Tests.

Ihre Meinung dazu? Schreiben Sie hier!

#KI #Computer #Forschung #Entwicklung #Chat

Newsticker per eMail oder RSS/Feed!

Auch interessant!
Chatbot gegen Skeptiker
Einige Minuten einer Interaktion mit einem Chatbot können eine Impfskepsis ins Wanken bringen, wie eine S...

KI gegen Stau
Die Ampeln der Zukunft namens 'Smart Traffic Lights' nutzen in der britischen Stadt Milton Keynes Künstli...

KI gegen Hacker
Das neue System künstlicher Intelligenz 'AI2' vom Massachusetts Institute of Technology (MIT) kann rund 8...

Bing chattet mit Tay
'Tay' lautet ein neuer, auf Künstlicher Intelligenz basierender Chat-Bot, den Softwareriese Microsoft zus...

Langweilige Roboter
Wenn es um ein möglichst gutes Zusammenarbeiten von Menschen und Robotern geht, dürfen Letztere offensich...

Mit KI auf Kurs
Der Algorithmus 'Psychic Robot' sagt die Handlungsabsichten des Fahrers vorher und kann somit im Falle vo...

Lehrer mit KI
Computerwissenschaftler der North Carolina State University (NCSU) haben ein neuartiges System entwickelt...

KI braucht neue Testmuster
Wer Computern Daten lesbar aufbereitet, bekommt heute schon genauso 'menschliche' Antworten, wie man es s...

Computer lernen Erzählen
Dank des 'Moral Storytelling System' (MOSS) können Eltern das Geschichtenerzählen ab jetzt ihrem Computer...

KI für AI
Mehr künstliche Intelligenz pro AdImpression, also für den Banner im Internet? Der AdServer bei Tripple h...

KI für Games
Die Verbesserung der künstlichen Intelligenz (KI) von computergesteuerten Gegnern stellt für Game-Produze...

DVD: A.I. - Künstliche Intelligenz
Mitte des 21. Jahrhunderts gibt es dank Umweltverschmutzung zwar keine Polkappen mehr, dafür aber Roborte...

Künstliche Intelligenz - eine Bedrohung?
Künstliche Intelligenz (KI) beschäftigt die Forscher seit mehreren Jahrzehnten. Einer der Spezialisten au...