Content Moderation – ist Künstliche Intelligenz die Lösung?

Teilen Sie diese Seite
Kostenloser Download

Weiterbildungsprogramm für Führung & Management

25. April 2022
Kundenservice
0 Kommentare

Milliarden von Menschen teilen und posten täglich aktiv Inhalte im Internet und über soziale Medien. Die dabei entstehenden Datenmengen sind überwältigend und stellen jedes Unternehmen mit Onlinepräsenz vor große Herausforderungen.

Viele Unternehmen sehen sich mit der Frage konfrontiert, wie sie für ein professionelles Screening sowie eine aktive Moderation der Inhalte sorgen können, um die eigenen Online-Plattformen für die Benutzerinnen und Benutzer sicherer zu gestalten. Schließlich bilden diese einen wichtigen Touchpoint auf dem Weg zu einer großartigen Customer Experience.

Nicole Ernst, Vice President Strategic Accounts bei TELUS International Northern Europe, beschreibt in diesem Beitrag, welche Rolle künstliche Intelligenz (KI) beim Thema Content Moderation spielen kann und wie Sie die beste Kombination aus innovativer Technologie und menschlichem Handeln für den Schutz Ihres Unternehmens einsetzen.

Expertin Nicole Ernst

Nicole Ernst

Vice President Strategic Accounts Northern Europe | TELUS International

Zum Profil

Content Moderation – Sicherheit für Ihr Unternehmen und Ihre Community

Auf sicheren und vertrauenswürdigen Plattformen kann Ihre digitale Community mit Ihrer Marke und untereinander in Kontakt treten. Damit werden positive Erfahrungen für Ihre Nutzerinnen und Nutzer gefördert sowie Markenbekanntheit, Wachstum und Kundentreue gesteigert. Angesichts der Unmengen an generierten Daten, ist es wichtig, zuverlässige und effektive Screening-Instrumente, Prozesse und Mitarbeitende einzusetzen, um die eigene Online-Reputation zu schützen.

Die Beschäftigung von Tausenden von Mitarbeitenden auf der ganzen Welt zur Überprüfung von nutzergenerierten Inhalten ist keine effiziente Lösung. Aus diesem Grund erwägen viele Unternehmen, innovative Technologien und insbesondere künstliche Intelligenz einzusetzen.

Die Technologie der nächsten Generation bringt viele Vorteile mit sich, nicht zuletzt Kosteneinsparungen. Sie birgt jedoch auch einige Einschränkungen, die Unternehmen vor der Implementierung einer KI-basierten Lösung zur Content Moderation bedenken sollten.

Effizient unterstützen mit Künstlicher Intelligenz

Nach Angaben des Weltwirtschaftsforums werden bis zum Jahr 2025 täglich schätzungsweise 463 Exabyte an Daten erzeugt – das entspricht der Menge von 2,1 Millionen DVDs. Unabhängig von der Größe oder den Fähigkeiten Ihres Content Moderation Teams macht es die schiere Menge an nutzergenerierten Inhalten nahezu unmöglich, hier den Überblick zu bewahren.

KI hingegen kann große Mengen unangemessener Inhalte über mehrere Kanäle hinweg nahezu in Echtzeit identifizieren. Das enorme Ausmaß an Daten, das KI interpretieren kann, ist ihr größter Vorteil.

Es gilt jedoch zu berücksichtigen, dass die Technologie nicht zu 100% autonom agieren kann, da einige Arten von Inhalten nur schwer für KI zu erkennen sind. Aus diesem Grund ist der Einsatz von KI als Unterstützung für menschliche Agenten, nicht als deren Ersatz, ideal. Ein KI-Algorithmus kann zum Beispiel einen Vertrauenswert für Inhalte berechnen, von denen er vermutet, dass sie gelöscht werden sollten. Inhalte, die unter einem bestimmten Schwellenwert liegen, werden dann für die Überprüfung durch eine Person gekennzeichnet, um sicherzustellen, dass sie den Unternehmensstandards entsprechen.

Hightech-Lösung mit Grenzen

Sprachanalytik ist eine ständige Herausforderung für KI. Algorithmen sind sehr gut darin, die in der Sprache enthaltenen Wörter zu erfassen, Audio in Text umzuwandeln und Spam-Nachrichten zu erkennen, Verbesserungspotential gibt es bei der Identifizierung von Hassreden oder Belästigungen.

In der Tat kann KI-Inhalte übersehen, die gekennzeichnet werden sollten, oder Inhalte fälschlicherweise kennzeichnen, die harmlos sind. Diese Szenarien sind besonders bei der Sprachanalyse zu beobachten, da sich die natürliche menschliche Sprache ständig weiterentwickelt. Es ist nicht nur schwierig für einen Algorithmus, den Kontext zu verstehen, es gilt auch kulturelle und regionale Nuancen zu berücksichtigen.

Auch bei sexualisierten, Drogen- oder Gewalt-Inhalten, gibt es noch Verbesserungspotential. Das liegt daran, dass die Entwicklung eines künstlichen neuronalen Netzes, das eine bestimmte Art von Inhalten erkennt, jahrelanges Training erfordert. Buchstäblich Millionen von Beispielen werden in das Programm eingespeist, um effektiv zu werden. Es gibt auch eine Ebene der Subjektivität, die KI noch nicht „verstehen“ kann. So erkennt sie beispielsweise Nacktheit, kann aber nicht unterscheiden, ob es sich um unzüchtige Bilder oder Kunst der Renaissance handelt.

Ein Ansatz mit viel Fingerspitzengefühl ist erforderlich

Für die meisten Unternehmen, die mit der Content Moderation beginnen, lohnt es sich, mit der besten Kombination aus Mensch und Technik auf Nummer sicher zu gehen. Obwohl KI in den letzten Jahren erhebliche Fortschritte gemacht hat, wird sie in absehbarer Zeit nicht die Arbeit von Menschen ersetzen. Das menschliche Verständnis bleibt eine entscheidende Komponente für die genaue Überwachung von Online-Inhalten.

Damit das Thema Content Moderation vor dem Hintergrund dieser Entwicklungen ganzheitlich umgesetzt werden kann, gilt es, relevante Bereiche zunächst zu identifizieren, um anschließend geeignete Maßnahmen abzuleiten.

Content Moderation
Um eine erfolgreiche Content Moderation sicherzustellen, sollte die beste Kombination aus menschlichem Eingreifen und technologischer Automatisierung zum Einsatz kommen, um die Sicherheit und die Einhaltung von Vorschriften zu gewährleisten.

Channel & Community Management
Schützen Sie durch den Einsatz bewährter Verfahren Ihre digitale Gemeinschaft vor verdächtigen oder gefälschten Konten und unterstützen Sie gleichzeitig positive soziale Interaktionen.

User-Sicherheit
Überwachen Sie mithilfe von Risikobewertungen, Hintergrundprüfungen, Überwachungslisten und proaktiven Sicherheitsbenachrichtigungen kontinuierlich die Sicherheit Ihrer Nutzerinnen und Nutzer und leiten Sie bei Bedarf Notfall- bzw. Krisenreaktionsprotokolle ein.

Lokalisierte Compliance
Bei der Bewertung der Inhalte gilt es, die kulturellen, regionalen und sozio-politischen Nuancen der lokalen Märkte zu berücksichtigen.

Social Media CX
Setzen Sie auf Expertinnen und Experten, die mit allen sozialen Plattformen vertraut sind und bei der Betreuung proaktiv oder reaktiv mit Ihrer Online-Community kommunizieren.

Anzeigenmoderation
Prüfen Sie Anzeigeninhalte auf ihre Konformität hin, einschließlich der Landingpages, zu denen sie führen, um sicherzustellen, dass Ihre Marke geschützt ist.

Online-Marktplatz-Moderation
Schulen Sie Ihre Mitarbeitenden bei der Erkennung von Betrug und Fälschungen, um eine sichere E-Commerce-Umgebung und sichere Transaktionen zu gewährleisten.

Strategy & Digital Consulting
Setzen Sie bei Ihrem Benchmarking und bei der Bewertung Ihrer Online-Präsenz auf die neuesten digitalen Werkzeuge, um dadurch robustere Vertrauens- und Sicherheitsprozesse zu schaffen.

TELUS International stellt flexible und skalierbare Lösungen für das Management digitaler Inhalte zur Verfügung und kann Ihnen dabei helfen, Ihre Social-Media-Präsenz zu steigern, Ihre Community zu vergrößern und mehr Kundinnen und Kunden über Ihre sozialen und E-Commerce-Kanäle zu gewinnen. Laden Sie sich das Whitepaper „Content Moderation Solutions“ herunter!

Unternehmensprofil

TELUS International (NYSE und TSX: TIXT) entwirft, erstellt und liefert digitale Lösungen der nächsten Generation, um die Customer Experience (CX) für globale Marken zu verbessern. Mit aktuell über 62.000 Teammitgliedern an mehr als 50 Standorten weltweit, bietet TELUS International innovative End-to-End Lösungen und Technologien, mit dem Fokus auf der permanenten Optimierung der Customer Experience über alle klassischen und digitalen Kommunikationskanäle hinweg.

Gefällt Ihnen, was Sie lesen? Teilen Sie diesen Beitrag oder hinterlassen Sie uns einen Kommentar!

Kommentare

Keine Kommentare

Kommentar schreiben

* Diese Felder sind erforderlich

Die Management Circle AG mit Sitz in Eschborn im Taunus ist spezialisiert auf die berufliche Weiterbildung in Form von Seminaren, Konferenzen und Kongressen für Fach- und Führungskräfte.

© Management Circle 2024