Faire KI

Sie wirken sich unverhältnismäßig negativ auf Farbige und Menschen in niedrigeren Einkommensklassen aus, wenn sie Kredite beantragen, sich um Jobs bewerben oder sogar vor Gericht stehen, wenn beispielsweise eine Kaution festgesetzt werden soll.

Um die faire Gleichbehandlung wiederherzustellen, haben die Forscher eine neue Programmiersprache für Künstliche Intelligenz (KI) entwickelt, die die Fairness von Algorithmen genauer und schneller beurteilen kann als verfügbare Alternativen. Ihre 'Sum Product Probabilistic Language' (SPPL) ist ein probabilistisches Programmiersystem an der Schnittstelle von Programmiersprachen und KI. Es zielt darauf ab, KI-Systeme einfacher zu entwickeln. Mit SPPL gab es bereits Erfolge in den Bereichen Computer Vision, Datenbereinigung und automatisierte Datenmodellierung.

Laut Feras Saad, Doktorand im Bereich Elektrotechnik und Informatik, gibt es zwar ähnliche Systeme, 'doch unseres ist auf eine bestimmte Klasse von Modellen spezialisiert und optimiert, sodass es Lösungen 1.000 Mal schneller liefern kann'. SPPL bietet dem Experten nach schnelle, genaue Lösungen für Fragen wie 'Wie wahrscheinlich ist es, dass das Modell jemandem über 40 einen Kredit empfiehlt?'. Zu den Fairness-Fragen, die SPPL beantworten kann, gehören 'Gibt es einen Unterschied zwischen der Wahrscheinlichkeit, einem Einwanderer und Nichteinwanderer mit dem gleichen sozioökonomischen Status einen Kredit zu empfehlen?' oder 'Wie hoch ist die Wahrscheinlichkeit einer Einstellung, wenn der Kandidat für den Job qualifiziert ist und aus einer unterrepräsentierten Gruppe stammt?'.

Fehler durch probabilistische Inferenz sind in vielen KI-Anwendungen tolerierbar. Es ist jedoch unerwünscht, dass Inferenzfehler zu sozial folgenschweren Anwendungen führen. 'SPPL zeigt, dass eine genaue probabilistische Inferenz für eine breite Klasse probabilistischer Programme praktisch und nicht nur theoretisch möglich ist', sagt Vikash Mansinghka, der die Entwicklung geleitet hat.

Ihre Meinung dazu? Schreiben Sie hier!

#KI #AI #Ethik #Transparenz

Newsticker per eMail oder RSS/Feed!

Auch interessant!
Berater mit ChatGPT erfolgreicher
Berater, die die auf Künstlicher Intelligenz (KI) basierende Recherche- und Texterstellungs-Software Chat...

KI macht sich bezahlt
Kaum etwas lohnt sich so sehr wie Investitionen in Software, die auf Künstlicher Intelligenz (KI) basiert...

Ethik in der künstlichen Intelligenz
Am Dienstag, 9. April präsentiert die Europäische Kommission Ethik-Leitlinien für eine vertrauenswürdige ...

Kindlicher Roboter gegen Pädophile
Sogenannte 'Sexbots' sollen zur therapeutischen Behandlung von Pädophilen eingesetzt werden - zumindest w...

Virtuelles Gewehr, reale Jagt
Diskussionen gibt es in den USA aktuell über eine Jagt im Internet, die realen Tieren das Leben kostet. D...

Barrierefreies Internet
Im europäischen Durchschnitt haben rund 10 Prozent der Bevölkerung eine Behinderung. Menschen mit Behinde...