Unser globales Abkommen über KI könnte Voreingenommenheit und Überwachung reduzieren

Eine CCTV-Kamera

NYstudio/Getty Images

Künstliche Intelligenz ist in unserem Leben präsenter denn je: Sie sagt voraus, was wir in E-Mails sagen wollen, hilft uns von A nach B zu navigieren und verbessert unsere Wetterberichte. Die beispiellose Geschwindigkeit, mit der Impfstoffe gegen Covid-19 entwickelt wurden, ist zum Teil auch auf den Einsatz von KI-Algorithmen zurückzuführen, die die Daten aus zahlreichen klinischen Studien schnell verarbeiteten und es Forschern auf der ganzen Welt ermöglichten, Notizen in Echtzeit zu vergleichen.

Aber die Technologie ist nicht immer von Vorteil. Die zum Aufbau von KI verwendeten Datensätze sind oft nicht repräsentativ für die Vielfalt der Bevölkerung, sodass sie diskriminierende Praktiken oder Vorurteile erzeugen können. Ein Beispiel ist die Gesichtserkennungstechnologie. Dies wird für den Zugriff auf unsere Mobiltelefone, Bankkonten und Wohnhäuser verwendet und wird zunehmend von Polizeikräften eingesetzt. Aber es kann Probleme geben genaue Identifizierung von Frauen und Schwarzen. Bei drei solcher Programme, die von großen Technologieunternehmen veröffentlicht wurden, betrug die Fehlerquote bei hellhäutigen Männern nur 1 Prozent, bei dunkelhäutigen Männern jedoch 19 Prozent und bei dunkelhäutigen Frauen bis zu erstaunlichen 35 Prozent. Verzerrungen bei Gesichtserkennungstechnologien haben führte zu unrechtmäßigen Verhaftungen.

Dies ist keine Überraschung, wenn man sich ansieht, wie KI entwickelt wird. Nur 1 von 10 Softwareentwicklern weltweit sind Frauen und nur 3 Prozent der Mitarbeiter der 75 größten Technologieunternehmen in den USA identifizieren sich als Schwarz. Aber jetzt besteht die Hoffnung, dass sich die Welt zu einem viel besseren Ansatz entwickelt.

Gestern haben 193 Länder bei der UNESCO eine bahnbrechende Einigung darüber erzielt, wie KI von Regierungen und Technologieunternehmen entwickelt und eingesetzt werden soll. UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz Die Erstellung dauerte zwei Jahre und umfasste Tausende von Online-Konsultationen mit Menschen aus den unterschiedlichsten sozialen Gruppen. Es zielt darauf ab, das Machtgleichgewicht zwischen Menschen und Unternehmen und Regierungen, die KI entwickeln, grundlegend zu verändern.

Länder, die Mitglied der UNESCO sind – und das ist fast jede Nation der Welt – haben sich bereit erklärt, diese Empfehlung umzusetzen, indem sie Gesetze erlassen, die das Design und den Einsatz von KI regeln.

Das bedeutet, dass sie positive Maßnahmen ergreifen müssen, um sicherzustellen, dass Frauen und Minderheiten in den KI-Designteams fair vertreten sind. Solche Maßnahmen könnten in Form von Quotensystemen erfolgen, die sicherstellen, dass diese Teams vielfältig sind.

Ein weiteres wichtiges Prinzip, auf das sich die Länder gerade geeinigt haben, ist das Verbot der Massenüberwachung und anderer invasiver Technologien, die Grundfreiheiten verletzen. Natürlich erwarten wir nicht überall einen vollständigen Rückzug der Videoüberwachung, aber wir erwarten, dass sich eine solche Massenüberwachung auf menschenrechtskonforme Zwecke beschränkt. Die UNESCO wird „Peer Pressure“ und andere multilaterale Instrumente einsetzen, die UN-Agenturen einsetzen, um globale Normen durchzusetzen.

In den kommenden Monaten werden UNESCO-Experten daran arbeiten, eine Reihe von Überwachungsinstrumenten zu entwickeln, die sicherstellen, dass die Entwicklung und der Einsatz von KI den Menschenrechten entsprechen, aber Innovationen nicht ersticken. Dies wird ein schwer zu erreichendes Gleichgewicht sein und das volle Engagement der wissenschaftlichen Gemeinschaft erfordern.

Das neue Abkommen ist umfassend und ehrgeizig. Es befasst sich mit Online-Mobbing und Hassreden und verpflichtet Länder, ihren CO2-Fußabdruck durch Technologie zu verringern – die Menge an Energie, die zum Speichern unserer Daten verwendet wird, ist seit Beginn der KI-Innovation erheblich gestiegen.

Allen Spielern in der KI-Welt ist bewusst, dass sie ohne Regelwerk nicht weiterarbeiten können.

Die UNESCO erwartet nun zwei Dinge. Erstens werden Regierungen und Unternehmen freiwillig damit beginnen, ihre KI-Systeme den in der Empfehlung festgelegten Grundsätzen zu entsprechen – ähnliche Schritte folgten später UNESCO-Erklärung zum menschlichen Genom Normen für die Genforschung festlegen. Zweitens werden die Regierungen beginnen, Gesetze zu erlassen, wobei die Empfehlung als Handbuch verwendet wird. Die UNESCO wird die Fortschritte bei der Gesetzgebung überwachen, und die Länder werden verpflichtet, über ihre Fortschritte zu berichten.

Mit dieser Vereinbarung sind wir zuversichtlich, KI dort einzusetzen, wo sie den größten Einfluss auf die größten Herausforderungen der Welt haben kann: Hunger, Umweltkrisen, Ungleichheiten und Pandemien. Wir sind optimistisch, dass wir die Dynamik für einen echten Wandel aufgebaut haben.

Gabriela Ramos ist stellvertretende Generaldirektorin für Sozial- und Humanwissenschaften der UNESCO


Source: New Scientist – Home by www.newscientist.com.

*The article has been translated based on the content of New Scientist – Home by www.newscientist.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!