Das Coronavirus zwingt Tech-Giganten zu einer riskanten Wette auf KI

Machine Learning-Tools waren schon immer die idealen Content-Moderatoren für Facebook, Google und Twitter – aber COVID-19 erzwingt ihre Verwendung, bevor sie bereit sind

Heute sprechen wir über einige der Front-Line-Mitarbeiter bei Facebook und Google, die an der Pandemie arbeiten: die Content-Moderatoren, die die Seite Tag für Tag laufen lassen. Wie die meisten Geschichten über Content-Moderatoren ist es eine Geschichte über schwierige Kompromisse. Und die Maßnahmen, die Facebook und YouTube in den letzten Tagen ergriffen haben, werden erhebliche Auswirkungen auf die Zukunft des Unternehmens haben.

Zunächst aber etwas Geschichte.

Anfangs war die inhaltliche Mäßigung in den sozialen Netzwerken ein geschäftliches Problem: Die Nacktheit und die Nazis hereinzulassen, und die Gemeinschaft bricht zusammen. Später war es ein rechtliches und regulatorisches Problem: Trotz des Schutzes durch Abschnitt 230 sind Unternehmen gesetzlich verpflichtet, terroristische Propaganda, Bilder von Kindesmissbrauch und andere Formen von Inhalten zu entfernen. Als Dienste wie YouTube und Facebook die Nutzerbasis in Milliardenhöhe wuchsen, wurde die Content-Moderation zu einem großen Problem: Wie überprüfen Sie die Millionen von Beiträgen pro Tag, die wegen Verstößen gegen Ihre Richtlinien gemeldet werden?

Die Lösung, wie ich letztes Jahr in einer Reihe von Stücken für The Vergeuntersucht habe, war, den Job an große Beratungsunternehmen auszulagern. Im Gefolge der Wahl 2016, die ein Defizit an Content-Moderatoren in allen großen sozialen Netzwerken offenbarte, stellten Tech-Unternehmen Zehntausende von Moderatoren auf der ganzen Welt über Firmen wie Accenture, Cognizant und Genpact ein. Dies führte jedoch zu einem Datenschutzproblem. Wenn Ihre Moderatoren im eigenen Haus arbeiten, können Sie strenge Kontrollen auf ihre Computer anwenden, um den Zugriff zu überwachen, den sie auf Benutzerdaten haben. Wenn sie für Dritte arbeiten, besteht ein viel größeres Risiko, dass diese Benutzerdaten nach außen durchsickern.

“einschließlich der Verpflichtung, Betrug und Fehlinformationen im Zusammenhang mit dem Virus zu entfernen und “autoritative Inhalte” zu fördern. (Mir wurde gesagt, dass die Ankündigung nichts mit der Verschiebung der Content-Moderationsstrategien zu tun hat, aber sie weist auf eine Zukunft hin, in der Unternehmen mehr zusammenarbeiten, um schädliche Beiträge zu entfernen.)

OK, so dass die Inhaltsmoderatoren meist nach Hause geschickt wurden. Wie wird das Zeug … Moderiert? Facebook erlaubte einigen Moderatoren, die an weniger sensiblen Inhalten arbeiten – z. B. bei der Schulung von Machine-Learning-Systemen für die Kennzeichnung von Inhalten – von zu Hause aus zu arbeiten. Sensiblere Arbeit wird auf Vollzeitbeschäftigte verlagert. Aber das Unternehmen wird auch beginnen, sich stärker auf diese maschinellen Lernsysteme zu stützen, um die Moderation von Inhalten zu automatisieren.

Es ist das langfristige Ziel jedes sozialen Netzwerks, künstliche Intelligenz in die Verantwortung zu nehmen. Aber noch im Dezember sagte mir Google, dass der Tag, an dem so etwas möglich sein würde, noch ziemlich weit weg sei. Und doch änderte das Unternehmen am Montag – aus der Not heraus – seine Stimmung. Hier ist Jake Kastrenakes bei The Verge:

YouTube wird sich während der Coronavirus-Pandemie mehr auf KI verlassen, um Videos zu moderieren, da viele seiner menschlichen Rezensenten nach Hause geschickt werden, um die Ausbreitung des Virus zu begrenzen. Dies bedeutet, dass Videos von der Website entfernt werden können, nur weil sie von KI als potenzieller Verstoß gegen eine Richtlinie gekennzeichnet werden, während die Videos normalerweise an einen menschlichen Prüfer weitergeleitet werden können, um zu bestätigen, dass sie entfernt werden sollten. […]

Aufgrund der stärkeren Abhängigkeit von KI, YouTube im Grunde sagt, dass wir erwarten müssen, dass einige Fehler gemacht werden. Weitere Videos können am Ende entfernt werden, “einschließlich einiger Videos, die nicht gegen Richtlinien verstoßen”, schreibt das Unternehmen in einem Blogeintrag. Andere Inhalte werden nicht beworben oder in der Suche und Empfehlungen angezeigt, bis sie von Menschen überprüft werden.

YouTube sagt, dass es weitgehend keine Streiks – die zu einem Verbot führen können – für Inhalte ausstellen wird, die von KI entfernt werden (mit Ausnahme von Videos hat es ein “hohes Vertrauen” gegen seine Richtlinien). Wie immer können Die schöpferischen Entwickler immer noch ein Video ansprechen, das entfernt wurde, aber YouTube warnt, dass sich dieser Prozess auch wegen der Verringerung der menschlichen Mäßigung verzögern wird.

All dies stellt eine riesige Wette auf KI in einer Zeit dar, in der es, wie das Unternehmen selbst bemerkt, immer noch ziemlich fehleranfällig ist. Und am Montagabend folgten sowohl Facebook als auch Twitter. Hier ist Paresh Dave in Reuters:

Facebook sagte auch, dass die Entscheidung, sich mehr auf automatisierte Tools zu verlassen, die lernen, anstößiges Material zu identifizieren, indem sie digitale Hinweise auf Aspekte analysieren, die mit früheren Takedowns gemeinsam sind, Einschränkungen hat.

“Wir können einige längere Reaktionszeiten sehen und dadurch mehr Fehler machen”, hieß es.

Twitter sagte, dass auch es die Nutzung ähnlicher Automatisierung verstärken würde, aber Benutzer, die ausschließlich auf der automatisierten Durchsetzung basieren, nicht verbieten würde, wegen Genauigkeitsbedenken.

So viele Probleme der Tech-Plattformen mit Regulierungsbehörden und gewählten Beamten in den letzten Jahren haben sich auf die inhaltliche Mäßigung ausgedacht. Welche Beiträge haben sie zugelassen, um oben zu bleiben? Was haben sie zu Unrecht abgebaut? Welche Beiträge haben sie verstärkt und welche unterdrückt?

Auf globaler Ebene machten die Unternehmen viele Fehler, selbst im Nutzen des menschlichen Urteilsvermögens. Ab Dienstag werden sie deutlich mehr an die Maschinen anvertrauen. Der Tag eins Ergebnis war nicht groß. Hier ist Josh Constine in TechCruch:

Facebook scheint einen Fehler in seinem News Feed Spam-Filter zu haben, wodurch URLs auf legitimen Websites wie Medium, BuzzFeedund USA Today daran gehindert werden, als Beiträge oder Kommentare geteilt zu werden. Das Problem ist das Blockieren von Teilen einiger Coronavirus-bezogene Inhalte, während einige nicht verwandte Links durchgelassen werden, obwohl nicht klar ist, was genau der Filter ist oder nicht. Facebook hat versucht, Sich gegen Fehlinformationen im Zusammenhang mit dem Ausbruch zu wehren, hat aber möglicherweise übereifrig eisern oder einen technischen Fehler erlitten.

Ich bin sicher, dass der Fehler in Kürze behoben wird. (Facebook sagt, dass es nicht mit Änderungen in der Inhaltsmoderation zusammenhängt.) In der Zwischenzeit denke ich an die Moderatoren, die in der letzten Woche jeden Tag zur Arbeit kamen, obwohl sie wussten, dass es sie in physische Gefahr brachte. Ein Facebook-Moderator, der für Accenture arbeitete, erinnerte sich daran, wie das Unternehmen im Februar begann, mehr Handdesinfektionsmittel herauszustellen, als sich die Bedrohung verschlimmerte, aber bis Dienstag wartete, um ihm zu sagen, dass er zu Hause bleiben solle. Dies geschah nach Tagen, wenn nicht Wochen, von Mitarbeitern, die Accenture erzählten, dass ihre Partner und Mitbewohner der Krankheit ausgesetzt gewesen seien.

“Wir arbeiteten mit Leuten, die exponiert waren, auf jeden Fall”, erzählte mir der Moderator. “Ich denke, sie sind zu spät gekommen, und die ursprünglich ergriffenen Maßnahmen waren eindeutig unzureichend.”

DAS VERHÄLTNIS

Heute in Nachrichten, die die öffentliche Wahrnehmung der großen Tech-Plattformen beeinflussen könnte.

Tendenz steigend: Facebook plant, 100 Millionen US-Dollar an Barzuschüssen und Werbegutschriften für bis zu 30.000 kleine Unternehmen in 30 Ländern auf der ganzen Weltzu vergeben. Das Geld soll ihnen helfen, die wirtschaftlichen Auswirkungen des Coronavirus-Ausbruchs zu bewältigen.

Trending up: Facebook hat sich mit dem International Fact-Checking Network zusammengetan, um Organisationen, die an der Faktenüberprüfung von Fehlinformationen im Zusammenhang mit COVID-19 arbeiten, 50.000 US-Dollar zu gewähren. Das Gesamtbudget für die Partnerschaft beläuft sich auf 1 Million US-Dollar. (Poynter)

Tendenz steigend: Eine Gruppe der größten Tech-Unternehmen in den USA hat sich zusammengeschlossen, um Betrug und Fehlinformationen im Zusammenhang mit Demontonvirus zu bekämpfen. Zur Gruppe gehören Facebook, Google, LinkedIn, Microsoft, Reddit, Twitterund YouTube.

Pandemie

Hier ist die neueste in den Vereinigten Staaten:

Hier ist eine Karte, wo Coronavirus-Fälle bisher in den Vereinigten Staaten bestätigt wurden. (Sara G. Miller und Jiachuan Wu / NBC News)

Warum ist die Einführung von COVID-19-Tests in den Vereinigten Staaten so langsam verlaufen? Die Tests, die wir haben, müssen in der Regel an eine Übungseinheit gesendet werden, und der Prozess ist langsam. Nicole Westman / The Verge)

Die Weltgesundheitsorganisation gibt Livestreaming auf &

nbsp; TikTok gibt den Leuten Tipps, wie man sicher bleibt und Mythen über COVID-19 zerstreut. (TikTok)

Haben Sie Angst, dass Sie COVID-19 haben könnten? Vox.com hat einen netten Leitfaden zu den häufigsten Fragen darüber zusammengestellt, einschließlich, wie es sich ausbreitet und was die Symptome sind. (Lois Parshley / Vox)

Hier ist, was mit den großen Unternehmen los ist:

Alphabets Gesundheitsunternehmen Verily führte am ersten Tag des Screenings für das Coronavirus Tests für etwa 20 Personendurch. Das Unternehmen erklärte, dass es mit dem Staat Kalifornien zusammenarbeite, um das Programm zu erweitern. (Gerrit De Vynck / Bloomberg)

Facebook fügt den nächsten Gehaltsschecks seiner Mitarbeiter 1.000 US-Dollar hinzu, um mit dem Coronavirus-Fallout fertig zu werden. Es gibt auch jedem ihren vollen Bonus für das Quartal unabhängig von ihrer Leistung.

Google verschiebt die Einführung seiner Informations-Coronavirus-Website auf “später in dieser Woche”. Die Seite war im Zentrum der Kontroverse, über die wir gestern gesprochenhaben. (Dieter Bohn / The Verge)

Apple hält seine Einzelhandelsgeschäfte außerhalb des chinesischen Festlands auf unbestimmte Zeit geschlossen, da die weltweite Ausbreitung des Coronavirus anhält. Ursprünglich hatte der iPhone-Hersteller den 27. März ins Visier genommen, um Standorte in den USA und anderswo auf der Welt wieder zu eröffnen. (Nick Statt / The Verge)

Die Nachfrage nach Amazon-Lieferungen steigt, da immer mehr Menschen gezwungen sind, zu Hause zu bleiben. Einige Amazon-Mitarbeiter befürchten, dass die Situation eine potenzielle Gesundheitskrise verursacht, und sagen, dass das Unternehmen nicht genug tut, um sie zu schützen. (Caroline O’Donovan und Ken Bensinger / BuzzFeed)

Amazon priorisiert den Versand von “Haushaltsheften, medizinischen Hilfsgütern und anderen produkten mit hoher Nachfrage” aufgrund der Coronavirus-Pandemie. Das Unternehmen setzt auch einige seiner “Fulfillment by Amazon”-Programm aus, das in der Regel Lager- und Versanddienstleistungen für Produkte von Drittanbietern anbietet. (Darrell Etherington / TechCrunch)

Mindestens fünf Mitarbeiter in Amazon-Lagern in Europa haben sich mit dem Coronavirus infiziert. Es ist eine ernüchternde Entwicklung für ein Unternehmen, das bereits Schwierigkeiten hat, genügend Leute einzustellen, um mit dem Anstieg der Aufträge fertig zu werden. (Matt Day, Daniele Lepido, Helene Fouquet und Macarena Munoz Montijano / Bloomberg)

CvSEs Chief Medical Officer schickte Den Mitarbeitern eine E-Mail mit Tipps, wie man während der Coronavirus-Pandemie sicher bleibt. Es enthielt auffallend ähnliche Fehlinformationen von den gefälschten Stanford-Tipps, die wir hierentlarvten. Kein guter Blick für eine Apotheke!

Uber hat seine zuvor angekündigte Politik des Krankengeldes für Fahrer während der Coronavirus-Pandemie ausgeweitet. Nun haben Fahrer, die positiv auf COVID-19 testen oder ihre Uber-Konten aufgrund von Gesundheitsempfehlungen gesperrt haben, Anspruch auf bis zu 14 Tage bezahlten Krankenstand. (Andrew J. Hawkins / The Verge)

Uber und Lyft suspendierten Uber Pool und teilten Fahrten aufgrund des sich verschlimmernden Ausbruchs von COVID-19. UberX und Uber Eats laufen noch. (Ryan Broderick / BuzzFeed)

Anderswo:

Coronavirus hat eine Welle von direkten Spenden für Einzelpersonen und Unternehmen am stärksten von der Krise betroffen ausgelöst. Die Spendenkampagnen werden oft in den sozialen Medien organisiert. (Nicholas Kulish / The New York Times)

Da Während der Pandemie Millionen von Menschen von zu Hause aus arbeiten und lernen, werden Internetnetzwerke an ihre Grenzen gebracht. Viele Anbieter entwickeln neue Richtlinien, um Menschen zu helfen, die ihre Rechnungen nicht bezahlen können, und bereiten sich darauf vor, die Kapazität in den Netzwerken bei Bedarf zu erhöhen. (Davey Alba und Cecilia Kang / The New York Times)

Coronavirus-Tests sollten nicht so hart sein, aber begrenzte Investitionen in die notwendige Technologie bedeutet, dass die USA hinter anderen Ländern in Bezug auf schnelle, zuverlässige Tests vor der Tür zurückbleiben. (Nicole Wetsman / The Verge)

Coronavirus macht Instagram intimer. Ohne einen stetigen Strom von Brunch-Fotos und Strand-Urlaubs-Selfies ist die Plattform zu Nahaufnahmen von Tagen mutiert, die im Inneren verbracht wurden. (Kaitlyn Tiffany / The Atlantic)

Für

⭐Das Justizministerium hat seine zweijährige Strafverfolgung eines russischen Unternehmens eingestellt, das in der Mueller-Wahleinmischungsuntersuchung angeklagtist. Das Unternehmen war eines von drei Unternehmen, die angeklagt wurden, weil sie angeblich ein langfristiges System durchgeführt haben, um sich strafrechtlich in die Wahl 2016 einzumischen. Das scheint eine Katastrophe zu sein. Hier ist Spencer S. Hsu in der Washington Post:

Assistants to U.S. Attorney Timothy Shea of Washington and Assistant Attorney General for National Security John C. Demers cited a unspecified “change in the balance of the government es proof due to a classification determination”, according to a nine-page Anmeldung mit Tatsachen unter Verschluss.

Die Staatsanwälte zitierten auch das Versäumnis des Unternehmens, Concord Management and Consulting, die Vorladungen von Gerichtsverfahren einzuhalten und eine “irreführende, bestenfalls” eidesstattliche Versicherung von Jewgeni Prigoschin, einem Mitangeklagten und Firmengründer, vorzulegen. Prigoschin ist ein Catering-Magnat und militärischer Auftragnehmer, der wegen seiner Verbindungen zum russischen Präsidenten Wladimir Putin als “Putins Koch” bekannt ist.

Facebooks Fehlinformationsproblem i

s verwurzelt im Geschäftsmodell: datenorientierte Anzeigen und algorithmisch optimierte Inhalte. In einem neuen Bericht legen Forscher von Ranking Digital Rights ein Rezept für die Fixierung des Unternehmens vor. Hier ist ein gutes Interview mit einem der Co-Autoren des Berichts. (Russell Brandom / The Verge)

Industrie

⭐Zoom ist der Ort geworden, wo wir arbeiten, gehen Sie zur Schule und feiern in diesen Tagen. Und während das Unternehmen bereit war zu wachsen, als das Coronavirus begann sich auszubreiten, hätte nichts es zu einem kulturellen Phänomen machen können. Hier ist Taylor Lorenz in der New York Times:

Eine Facebook-Gruppe für junge Menschen, die zu Hause gefangen sind, genannt Zoom Memes for Self Quaranteens, die vor weniger als einer Woche gegründet wurde, ist bereits auf mehr als 150.000 Mitglieder angewachsen.

College-Studenten im ganzen Land gehen auf Zoom Blind Dates. Eltern von Sechstklässlern in Rosenbaum Yeshiva Of North Jersey organisierten eine Zoom-“Pause” für ihre Kinder. Ethel es Club, eine Wellness-Plattform, führt Zoom Tarot Kartenlesungen, Atemarbeit und Cannabis-Hangoutsdurch.

Es ist ein Höhepunkt für Zoom, der 2011 von Eric Yuan, einem ehemaligen Manager von Cisco Systems, gegründet wurde. Seine plötzliche kulturelle Cachet bringt auch neue Bedenken in Bezug auf Privatsphäre, Sicherheit, Inhaltsmoderation, Sicherheit für junge Menschen und Sensibilität für den Ernst der Pandemie. Es gibt auch die winzige Frage, den Dienst am Laufen zu halten.

Ein Tag im Leben eines Fahrradboten, der für DoorDash, Uber Eatsund Postmatesfährt, in der Zeit des Coronavirus. “Ich dachte, ich würde Fett-Arsch-Tipps bekommen. Ich bekomme keine Fettnäpfchen”, sagte er. Menschen — die Zeit, Fett-Arsch-Tipps zu geben, ist jetzt. (Matt DeCaro / Vice)

Schlaf-Gadgets – wie der Oura-Ring von Jack Dorsey – sind überall. Mein Hauptanliegen hier ist, dass Dorsey immer noch sehr gut schläft. (Ruth Reader / Fast Company)

Nintendos Online-Dienste gingen vorübergehend aus. Es könnte ein Spiegelbild der hohen Nachfrage während der Pandemie sein. (Michael McWhertor / Polygon)

Facebooks Oculus Quest erhält eine umfassende UI-Überholung, die laut Unternehmen “einen Schritt in Richtung VR zur nächsten Computerplattform” darstellt. (Sam Byford / The Verge)

Cameo verwandelte D-List Prominente in eine süchtig machende Monetarisierungsmaschine, indem sie ihnen erlaubten, für Shout-outs zu laden. Jetzt zahlen die Leute sie überall zwischen 5 und 2.500 Dollar, um kurze Videos zu senden, die per Text oder E-Mail geliefert werden. Und Sie können es von zu Hause aus tun. Das perfekte Pandemiegeschäft! (Patrick J. Sauer / Marker)

SEHENSWÜRDIGKEITEN ZU TUN

Sie während der Quarantäne online besetzen.

Durchsuchen Sie diese Liste von Projekten, die ihnen bei der COVID-19-Antwort helfen können. Es richtet sich an Software-Ingenieure, aber jeder kann einen Beitrag leisten. Designer und Produktmanager wären hier wahrscheinlich auch nützlich. Ebenso wie jeder, der spenden kann.

Geben Sie Lokale. Unterstützen Sie ein lokales Unternehmen, indem Sie eine Geschenkkarte online kaufen. Viele sausen in San Francisco, Austin, Chicago, New York und mehr.

Save Our Faves ist eine ähnliche Idee, die sich auf San Francisco von Mike und Kaitlyn Krieger konzentriert. (Sie erinnern sich vielleicht an Mike aus früheren Projekten wie Instagram.)

Hier sind 450 kostenlose Ivy League Kurse, die Sie zu Hause nehmen können. Holen Sie sich schlau, während Sie die Zeit vergehen!

Machen Sie einen dieser Toasts. Eine endgültige Rangliste eines ehemaligen Verge-Mitarbeiters.

Spielen Kingdom Rush Frontiers (iOS und Android) und Kingdom Rush Origins (iOS und Android), zwei der besten Tower-Defense-Strategie-Spiele jemals gemacht. Ich habe Tage meines Lebens damit verbracht, dieses Spiel zu spielen, und jetzt sind sie für eine Woche kostenlos.

Abonnieren Sie Shudder, einen Streaming-Dienst für Horrorfilme. Es ist für die nächsten 30 Tage kostenlos. Profitieren Sie von Terror mit einer unterhaltsameren Form des Terrors!

Und schließlich…

et-target js-inViewportScribingTarget”>

Wenn Sie für einen covid-19-Test ins Krankenhaus gehen, stellen Sie sicher, dass Sie eine gültige Form der Identifizierung zusammen mit einem Ausdruck Ihrer IMDB-Seite und/oder Ihren Basketball-Referenzstatistiken mitbringen.

TALK TO US

Schicken Sie uns Tipps, Kommentare, Fragen und Möglichkeiten, die Zeit drinnen zu vertreiben: [email protected] und [email protected].

Click here for more information