Toxische Sprache in Telegram-Nachrichten erkennen

Dieses Workflow ermöglicht das Erkennen und die Filterung von toxischer Sprache in Telegram-Nachrichten mithilfe von Google Perspective API.

Toxische Sprache in Telegram-Nachrichten erkennen

Die Website nutzt die Wordpress-Infrastruktur.

Server: Unser Server befindet sich in einem Unternehmen mit Sitz in Deutschland. Er hat eine hohe und schnelle Internetverbindung. Es gibt eine Generatorunterstützung für ununterbrochenen Strom.

Workflow Schritte

1. Telegram Trigger

Typ: Telegram Trigger

Funktion: Dieser Node überwacht Telegram-Nachrichten und löst das Workflow aus, wenn eine neue Nachricht empfangen wird.

Einstellungen:

  • Webhook ID: 2d0805da-143e-40c9-b327-242b1f052c31
  • Updates: Hier werden die Benachrichtigungen angegeben, die überwacht werden sollen (z.B. neue Nachrichten, bearbeitete Nachrichten).
  • Credentials: telegram_habot – Authentifizierungsdetails für Telegram API.

Diese Einstellungen sind wichtig, um die richtigen Nachrichten von Telegram zu empfangen und zu verarbeiten.

2. Google Perspective

Typ: Google Perspective

Funktion: Dieser Node analysiert den erhaltenen Text der Telegram-Nachricht mit der Google Perspective API, um toxische Sprachmerkmale zu erkennen.

Einstellungen:

  • Text: Nachrichtentext wird aus der vorherigen Telegram-Nachricht entnommen.
  • Sprache: ‚en‘ (Englisch)
  • Requested Attributes:
    • identity_attack
    • threat
    • profanity
  • Credentials: perspective_api – Authentifizierungsdetails für die Google Perspective API.

Die Auswahl dieser Attribute hilft bei der Identifizierung potenziell schädlicher Sprache.

3. IF

Typ: IF

Funktion: Dieser Node entscheidet basierend auf den vom Google Perspective Node erhaltenen Ergebnissen, ob die Nachricht als toxisch eingestuft wird.

Einstellungen:

  • Bedingung: Überprüfung, ob der Grad der Obszönität (Profanity) größer als 0.7 ist (d.h., die Nachricht gilt als potenziell beleidigend).

Diese Logik ermöglicht es, toxische Nachrichten von anderen zu unterscheiden.

4. Telegram

Typ: Telegram

Funktion: Wenn die IF-Bedingung erfüllt ist und die Nachricht als toxisch eingestuft wird, sendet dieser Node eine Warnung zurück in den Chat.

Einstellungen:

  • Text: „I don’t tolerate toxic language!“ – die Antwortnachricht.
  • chatId: ID des Chats, aus dem die ursprüngliche Nachricht stammt.
  • reply_to_message_id: ID der ursprünglichen Nachricht, damit die Antwort richtig zugeordnet wird.

Diese Einstellungen stellen sicher, dass die Warnung direkt auf die ursprüngliche Nachricht antwortet.

5. NoOp

Typ: NoOp

Funktion: Dieser Node führt keine Operationen aus. Er dient als Platzhalter für den Fall, dass die IF-Bedingung nicht erfüllt ist.

Einstellungen: Keine speziellen Einstellungen erforderlich.

Workflow-Ausgabe

Am Ende dieses Workflows wird bei einer toxischen Nachricht eine Warnung an den Chat gesendet. Andernfalls passiert nichts. Dieser Workflow ist effektiv, um eine sichere Umgebung in Telegram zu fördern und Leute vor toxischer Sprache zu warnen.

Download Link

Hier herunterladen

Facebook
Twitter
LinkedIn

Andere Projekte