Der Whistleblower von Facebook erklärt dem Kongress, wie die Technologie reguliert werden soll

WASHINGTON, DC – Der US-Gesetzgeber ist seit Jahren wütend auf Facebook. Bereits seit 2011 warnen sie über Facebooks Versäumnisse, die Privatsphäre der Benutzer zu schützen, sein Kampf gegen Fehlinformationen auf seinen Plattformen und seine Auswirkungen auf die psychische Gesundheit seiner Nutzer. Aber sie haben keine neuen Gesetze verabschiedet, die sich mit diesen Problemen befassen.

Jetzt sagen einige wichtige Gesetzgeber, dass sie den Katalysator haben, den sie brauchen, um echte Veränderungen herbeizuführen: die Whistleblowerin und ehemalige Facebook-Mitarbeiterin Frances Haugen.

Haugen, einst Produktmanager des Unternehmens, sagte am Dienstag vor dem Handelsunterausschuss des Senats für Verbraucherschutz, Produktsicherheit und Datensicherheit aus, was der Gesetzgeber als dringenden Aufruf zum Handeln zur Regulierung von Facebook bezeichnet. Die Whistleblowerin löste eine Welle von Medienbeobachtungen von Facebook aus, als sie Tausende von internen Dokumenten mit dem teilte Wallstreet Journal, die SEC und der Kongress, die zeigen, dass Facebook von den Schäden wusste, die seine Produkte verursachen können, diese Realität jedoch gegenüber dem Gesetzgeber und der Öffentlichkeit heruntergespielt hat. Dieser Beweis, der bisher in der Konversation gefehlt hat, zeigt, wie Facebook Forschungen durchgeführt hat, die herausgefunden haben, dass seine Produkte psychische Probleme verursachen, gewalttätige Inhalte gedeihen lassen und polarisierende Reaktionen fördern können – und diese Forschung dann weitgehend ignoriert hat.

„Ich habe mich gemeldet, weil ich eine erschreckende Wahrheit erkannt habe: Fast niemand außerhalb von Facebook weiß, was innerhalb von Facebook passiert“, sagte Haugen in ihrer Eröffnungsaussage am Dienstag.

In einer Erklärung als Antwort auf die Anhörung am Dienstag schrieb Lena Pietsch, Direktorin für politische Kommunikation bei Facebook, dass Haugen „weniger als zwei Jahre für das Unternehmen gearbeitet hat, keine direkten Untergebenen hatte, nie an einem Entscheidungstreffen mit Führungskräften der C-Ebene teilnahm – und aussagte“. mehr als sechsmal bis zur Nichtbearbeitung des betreffenden Themas.“

„Wir sind mit ihrer Charakterisierung der vielen Themen, über die sie aussagte, nicht einverstanden“, schrieb Pietsch. „Trotz alledem sind wir uns in einer Sache einig; Es ist an der Zeit, Standardregeln für das Internet zu erstellen. Es ist 25 Jahre her, dass die Regeln für das Internet aktualisiert wurden, und anstatt von der Branche zu erwarten, dass sie gesellschaftliche Entscheidungen trifft, die den Gesetzgebern gehören, ist es an der Zeit, dass der Kongress handelt.“

In der Vergangenheit sind Kongressanhörungen über Facebook oft zu einer politischen Tribüne geworden, bei der die Gesetzgeber vom Thema abgekommen sind und ihre eigenen parteiischen Beschwerden über das Unternehmen haben. Einige Republikaner haben sich darauf konzentriert, unbewiesene Anschuldigungen dass das Social-Media-Unternehmen eine antikonservative Voreingenommenheit hat. Zu anderen Zeiten haben Gesetzgeber Fälschungen gemacht, die ihren scheinbaren Mangel an grundlegenden technischen Kenntnissen offenbaren – wie die berüchtigte Frage des inzwischen pensionierten Sen. Orrin Hatch (R-UT) über wie Facebook Geld verdient, oder die jüngste Frage von Senator Richard Blumenthal zu „Finsta“ während a Anhörung im Senatsausschuss letzten Donnerstag.

Diesmal waren die Gesetzgeber jedoch auf der anderen Seite des Ganges besonders konzentriert und gut auf die relevanten – und greifbaren – Probleme eingegangen. Sie stellten Haugen gezielte Fragen zu den Schäden, die Facebook insbesondere Teenagern und Kindern zufügen kann, und wie das behoben werden kann.

Im Gegenzug war Haugen ein beredter Zeuge. Komplizierte Themen wie den algorithmisch geordneten Newsfeed von Facebook brach sie auf verständliche Weise auf. Und sie gab sowohl dem Kongress als auch der Öffentlichkeit einige der klarsten Erklärungen, was mit Facebook nicht stimmt und wie diese Probleme behoben werden können.

Gib Facebook echte externe Aufsicht

Haugen forderte den Gesetzgeber wiederholt auf, eine externe Regulierungsbehörde zu schaffen, die befugt wäre, Daten von Facebook anzufordern, insbesondere über die Funktionsweise der Algorithmen und die Art von Inhalten, die sie auf den Social-Media-Plattformen des Unternehmens verbreiten.

„Solange Facebook im Dunkeln agiert, ist es niemandem Rechenschaft schuldig“, sagte Haugen in ihrer Eröffnungsaussage. Haugen argumentierte, dass „ein kritischer Ausgangspunkt für eine wirksame Regulierung die Transparenz ist: vollständiger Zugang zu Daten für Forschung, die nicht von Facebook geleitet wird“.

In ihrer vor der Anhörung geteilten schriftlichen Aussage kritisierte Haugen das bestehende quasi-unabhängige Aufsichtsgremium von Facebook (das keine wirkliche rechtliche Macht über Facebook hat), weil sie glaubt, dass es für das Innenleben von Facebook „blind“ ist.

„Im Moment sind die einzigen Menschen auf der Welt, die für die Analyse dieser Erfahrungen geschult wurden, Menschen, die bei Facebook oder anderen Social-Media-Unternehmen aufgewachsen sind“, sagte Haugen. „Es muss ein behördliches Zuhause geben, in dem jemand wie ich nach der Arbeit an einem Ort wie diesem eine Dienstreise machen kann“, sagte sie.

Frances Haugen sagt vor dem Kongress aus.
In der Eröffnungserklärung von Frances Haugen sagte sie: “Ich glaube, dass die Produkte von Facebook Kindern schaden, Spaltungen anheizen und unsere Demokratie schwächen.”
Jabin Botsford/AFP über Getty Images

Der Stanford-Rechtsprofessor Nate Persily, der in der Vergangenheit in der Vergangenheit direkt mit Facebook an akademischen Partnerschaften gearbeitet und die Grenzen dieser Partnerschaften anerkannt hat, forderte kürzlich Gesetzgebung Das würde Plattformen wie Facebook dazu zwingen, interne Daten mit externen Forschern zu teilen.

Datentransparenz ist nicht gerade das aufmerksamkeitsstärkste Konzept und auch kein leicht zu regulierendes Thema. Aber wie Recode bereits berichtet hat, sind sich viele führende Social-Media-Experten mit Haugen einig, dass es ein erster Schritt ist, Facebook sinnvoll zu regulieren.

Öffnen Sie die algorithmische Blackbox von Facebook

Die Algorithmen von Facebook bestimmen, wie seine Plattformen funktionieren und was jeder in seinen Newsfeeds sieht. Haugen sagte, diese mächtigen Mechanismen sollten nicht in einer Blackbox funktionieren, die nur Facebook kontrolliert und versteht, und dass sie genau überprüft und reguliert werden müssen.

Interne Dokumente, die Haugen enthüllte, zeigten, wie sich 2018 der Newsfeed von Facebook änderte belohnter Inhalt, der mehr Emotionen bei den Menschen hervorruft – besonders Wut, weil sie mehr Engagement auslöst als jede andere Emotion. Haugen und Mitglieder des Kongresses sprachen auch darüber, wie die Algorithmen von Facebook auch Jugendliche zu toxischen Inhalten drängen können, wie etwa solchen, die Essstörungen fördern.

„Ich habe die meiste Zeit meiner Karriere mit Engagement-basierten Rankings verbracht“, sagt Haugen, der in der Vergangenheit bei Google und Pinterest gearbeitet hat. „Facebook sagt: ‚Wir könnten es sicher tun, weil wir KI haben. Die künstliche Intelligenz wird die schlechten Inhalte finden, von denen wir wissen, dass sie unsere auf Engagement basierenden Rankings fördern’“, sagte sie. Sie warnte jedoch davor, dass „Facebooks eigene Forschung sagt, dass sie diese gefährlichen Inhalte nicht angemessen identifizieren können“, und dass diese Algorithmen als Ergebnis „extreme Gefühle und Spaltungen“ in den Menschen hervorrufen.

Dies, betonte Haugen, sei der Kern vieler der dringendsten Probleme von Facebook und bedarf der Aufsicht des Kongresses.

“Ich denke [Haugen] hat es uns ermöglicht, unter die Haube von Facebook zu gehen“, sagte Senator Ed Markey (D-MA). „Wir können jetzt sehen, wie dieses Unternehmen arbeitet und wie gleichgültig es ist, welche Auswirkungen die Algorithmen auf junge Menschen in unserem Land haben.“

Erstellen Sie bundesstaatliche Datenschutzgesetze, um Facebook-Nutzer zu schützen

Datenschutz war während der Zeugenaussage kein Schwerpunkt von Haugen, aber mehrere Gesetzgeber, darunter Sen die Notwendigkeit einer besseren Datenschutzregelung.

Der Schutz der Privatsphäre von Menschen auf Plattformen wie Facebook ist ein Bereich, in dem der Kongress bisher einige der umfangreichsten Gesetze eingeführt hat, einschließlich der Aktualisierung der 1998 Online-Datenschutzgesetz für Kinder (COPPA), das KIDS Act, der Technologieunternehmen zu starken Einschränkungen zwingen würde gezielte Werbung für Kinder unter 16 Jahren und den SAFE DATA Act, der Benutzerrechte an Daten schaffen würde Transparenz und bitte um Opt-in-Einwilligung zur Verarbeitung sensibler Daten. Es macht also Sinn, warum dies ein wichtiger Teil ihrer potenziellen Pläne zur Regulierung von Facebook ist.

Sen. Roger Wicker (R-MS), Sen. Marsha Blackburn (R-TN), Sen. Jerry Moran (R-KS) und der Vorsitzende des Unterausschusses Sen. Richard Blumenthal (D-CT) (von links nach rechts) kommen, um Frances . zu hören Haugens Aussage.
Drew Angerer/Getty Images

„Die Verabschiedung eines bundesstaatlichen Datenschutzstandards ist seit langem in Arbeit. Ich habe meinen ersten im Jahr 2012 vorgelegt und ich denke, dieser Kongress und dieser Unterausschuss werden den Weg weisen“, sagte Blackburn.

Haugen stimmte zu, dass der Umgang von Facebook mit der Privatsphäre seiner Nutzer ein wichtiges Anliegen ist, auf das sich die Aufsichtsbehörden konzentrieren sollten, sagte jedoch auch, dass sie nicht glaube, dass Datenschutzbestimmungen die einzige Lösung sind, um den Schaden von Facebook für die Gesellschaft zu mildern.

„Facebook möchte Sie dazu verleiten, zu denken, dass Datenschutz oder Änderungen an Abschnitt 230 allein ausreichen“, sagte Haugen. „Obwohl es wichtig ist, werden sie nicht zum Kern des Problems vordringen, nämlich dass niemand außer Facebook die zerstörerischen Eigenschaften von Facebook wirklich versteht. Wir können uns nichts weniger leisten als volle Transparenz.“

Abschnitt 230 reformieren – aber Fokus auf Algorithmen

Während der Anhörung brachten mehrere Senatoren Abschnitt 230 zur Sprache – das bahnbrechende Internetgesetz, das Technologieunternehmen davor schützt, wegen der meisten Arten von illegalen Inhalten verklagt zu werden, die ihre Nutzer auf ihren Plattformen veröffentlichen.

Eine Reform des Abschnitts 230 wäre höchst umstritten. Sogar einige politische Organisationen wie die Electronic Frontier Foundation und Kämpfe für die Zukunft, die Technologieunternehmen eingehend prüfen, haben argumentiert, dass die Abschaffung dieses Gesetzes die amtierenden Technologiegiganten festigen könnte, da es kleineren Social-Media-Plattformen mit weniger Ressourcen für die Inhaltsmoderation den Betrieb ohne kostspielige Klagen erschweren würde.

Haugen schien einige dieser Nuancen in ihrer Diskussion über 230 zu verstehen. Sie schlug vor, dass die Aufsichtsbehörden Abschnitt 230 ändern sollten, um Unternehmen rechtlich für ihre Algorithmen haftbar zu machen, die schädliche Inhalte statt die Beiträge bestimmter Benutzer fördern.

„Ich fordere die Reform von Section 230-Entscheidungen über Algorithmen auf. 230 um Inhalte herum zu modifizieren – es wird sehr kompliziert, weil Unternehmen weniger Kontrolle über nutzergenerierte Inhalte haben“, sagte Haugen. „Sie haben 100-prozentige Kontrolle über Algorithmen.“

Was kommt als nächstes

Die Vorsitzenden des Senats-Unterausschusses, der Haugen am Dienstag zur Aussage brachte, sagten, dass sie Facebook im Rampenlicht halten und in Zukunft mehr Anhörungen (sie würden nicht sagen wann) über Facebook und andere Technologieunternehmen abhalten werden.

„Sie hat das Bewusstsein des Kongresses heute wirklich gepackt und einen nachhaltigen und nachhaltigen Unterschied gemacht, wie wir Big Tech sehen werden“, sagte Blumenthal. „Ohne Übertreibung beginnen wir jetzt eine andere Ära – ich hoffe, es wird anders – in der wir Big Tech zur Rechenschaft ziehen.“

Aber der Kongress ist noch sehr in der Diskussion. Keine der vielen Gesetzesvorlagen, die im Laufe der Jahre eingeführt wurden – wie etwa eine Gesetzesvorlage zur Verhinderung Gesundheits-Fehlinformationen in sozialen Medien oder ein vorgeschlagenes Kartellgesetz zu verhindern große Technologieunternehmen vom Verkauf von Produktlinien ab, die sie kontrollieren – sind entfernt kurz vor dem Passieren. Und obwohl sich dieser Moment anders anfühlt – und einige Senatoren, wie Ed Markey, haben angesichts der neuen Prüfung Gesetzentwürfe wieder eingeführt – steht den Gesetzgebern ein Kampf bevor, wenn sie bereit sind zu kämpfen.

Senator Richard Blumenthal, der den Unterausschuss leitet, der die Anhörung am Dienstag abgehalten hat, lehnte es ab, zu sagen, ob er Mark Zuckerberg vorladen wird oder genau, wann die nächste Anhörung stattfinden würde. Senatorin Marsha Blackburn, die mit Blumenthal zusammenarbeitet, sagte, dass der Wandel „eher früher als später“ käme und dass der Kongress „kurz vor einer parteiübergreifenden Einigung stehe“. Aber angesichts der Tatsache, dass der Kongress immer noch über die Grundfinanzierung der US-Regierung verhandelt, wird der Versuch, Facebook effektiv zu regulieren, Zeit sowie einige bemerkenswerte parteiübergreifende Koordination erfordern.

Aber die Fokussenatoren, die heute zur Anhörung gebracht wurden, zeigen, dass sogar dieser polarisierte Kongress bereit sein könnte, sich zu vereinen – zumindest, wenn es um die Regulierung von Facebook geht.


Source: Vox – All by www.vox.com.

*The article has been translated based on the content of Vox – All by www.vox.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!