Content Moderation – ist Künstliche Intelligenz die Lösung?

Milliarden von Menschen teilen und posten täglich aktiv Inhalte im Internet und über soziale Medien. Die dabei entstehenden Datenmengen sind überwältigend und stellen jedes Unternehmen mit Onlinepräsenz vor große Herausforderungen.

Viele Unternehmen sehen sich mit der Frage konfrontiert, wie sie für ein professionelles Screening sowie eine aktive Moderation der Inhalte sorgen können, um die eigenen Online-Plattformen für die Benutzerinnen und Benutzer sicherer zu gestalten. Schließlich bilden diese einen wichtigen Touchpoint auf dem Weg zu einer großartigen Customer Experience.

Nicole Ernst, Vice President Strategic Accounts bei TELUS International Northern Europe, beschreibt in diesem Beitrag, welche Rolle künstliche Intelligenz (KI) beim Thema Content Moderation spielen kann und wie Sie die beste Kombination aus innovativer Technologie und menschlichem Handeln für den Schutz Ihres Unternehmens einsetzen.

Auf sicheren und vertrauenswürdigen Plattformen kann Ihre digitale Community mit Ihrer Marke und untereinander in Kontakt treten. Damit werden positive Erfahrungen für Ihre Nutzerinnen und Nutzer gefördert sowie Markenbekanntheit, Wachstum und Kundentreue gesteigert. Angesichts der Unmengen an generierten Daten, ist es wichtig, zuverlässige und effektive Screening-Instrumente, Prozesse und Mitarbeitende einzusetzen, um die eigene Online-Reputation zu schützen.

Die Beschäftigung von Tausenden von Mitarbeitenden auf der ganzen Welt zur Überprüfung von nutzergenerierten Inhalten ist keine effiziente Lösung. Aus diesem Grund erwägen viele Unternehmen, innovative Technologien und insbesondere künstliche Intelligenz einzusetzen.

Die Technologie der nächsten Generation bringt viele Vorteile mit sich, nicht zuletzt Kosteneinsparungen. Sie birgt jedoch auch einige Einschränkungen, die Unternehmen vor der Implementierung einer KI-basierten Lösung zur Content Moderation bedenken sollten.

Nach Angaben des Weltwirtschaftsforums werden bis zum Jahr 2025 täglich schätzungsweise 463 Exabyte an Daten erzeugt – das entspricht der Menge von 2,1 Millionen DVDs. Unabhängig von der Größe oder den Fähigkeiten Ihres Content Moderation Teams macht es die schiere Menge an nutzergenerierten Inhalten nahezu unmöglich, hier den Überblick zu bewahren.

KI hingegen kann große Mengen unangemessener Inhalte über mehrere Kanäle hinweg nahezu in Echtzeit identifizieren. Das enorme Ausmaß an Daten, das KI interpretieren kann, ist ihr größter Vorteil.

Es gilt jedoch zu berücksichtigen, dass die Technologie nicht zu 100% autonom agieren kann, da einige Arten von Inhalten nur schwer für KI zu erkennen sind. Aus diesem Grund ist der Einsatz von KI als Unterstützung für menschliche Agenten, nicht als deren Ersatz, ideal. Ein KI-Algorithmus kann zum Beispiel einen Vertrauenswert für Inhalte berechnen, von denen er vermutet, dass sie gelöscht werden sollten. Inhalte, die unter einem bestimmten Schwellenwert liegen, werden dann für die Überprüfung durch eine Person gekennzeichnet, um sicherzustellen, dass sie den Unternehmensstandards entsprechen.

Sprachanalytik ist eine ständige Herausforderung für KI. Algorithmen sind sehr gut darin, die in der Sprache enthaltenen Wörter zu erfassen, Audio in Text umzuwandeln und Spam-Nachrichten zu erkennen, Verbesserungspotential gibt es bei der Identifizierung von Hassreden oder Belästigungen.

In der Tat kann KI-Inhalte übersehen, die gekennzeichnet werden sollten, oder Inhalte fälschlicherweise kennzeichnen, die harmlos sind. Diese Szenarien sind besonders bei der Sprachanalyse zu beobachten, da sich die natürliche menschliche Sprache ständig weiterentwickelt. Es ist nicht nur schwierig für einen Algorithmus, den Kontext zu verstehen, es gilt auch kulturelle und regionale Nuancen zu berücksichtigen.

Auch bei sexualisierten, Drogen- oder Gewalt-Inhalten, gibt es noch Verbesserungspotential. Das liegt daran, dass die Entwicklung eines künstlichen neuronalen Netzes, das eine bestimmte Art von Inhalten erkennt, jahrelanges Training erfordert. Buchstäblich Millionen von Beispielen werden in das Programm eingespeist, um effektiv zu werden. Es gibt auch eine Ebene der Subjektivität, die KI noch nicht „verstehen“ kann. So erkennt sie beispielsweise Nacktheit, kann aber nicht unterscheiden, ob es sich um unzüchtige Bilder oder Kunst der Renaissance handelt.

Für die meisten Unternehmen, die mit der Content Moderation beginnen, lohnt es sich, mit der besten Kombination aus Mensch und Technik auf Nummer sicher zu gehen. Obwohl KI in den letzten Jahren erhebliche Fortschritte gemacht hat, wird sie in absehbarer Zeit nicht die Arbeit von Menschen ersetzen. Das menschliche Verständnis bleibt eine entscheidende Komponente für die genaue Überwachung von Online-Inhalten.

Damit das Thema Content Moderation vor dem Hintergrund dieser Entwicklungen ganzheitlich umgesetzt werden kann, gilt es, relevante Bereiche zunächst zu identifizieren, um anschließend geeignete Maßnahmen abzuleiten.

TELUS International stellt flexible und skalierbare Lösungen für das Management digitaler Inhalte zur Verfügung und kann Ihnen dabei helfen, Ihre Social-Media-Präsenz zu steigern, Ihre Community zu vergrößern und mehr Kundinnen und Kunden über Ihre sozialen und E-Commerce-Kanäle zu gewinnen. Laden Sie sich das Whitepaper „Content Moderation Solutions“ herunter!