Text- und Bildprüfung per API
Wenn Beiträge oder Uploads unmittelbar geprüft werden sollen, sind Text und Bild die klarsten gemeinsamen Anwendungsfälle dieser Auswahl. Censorfy beschreibt eine KI-gestützte Moderation für Text und Bilder, die mit einer HTTP-Anfrage ausgelöst wird. ContentMod nennt ebenfalls eine API für Text- und Bildmoderation mit KI-basierter Inhaltsanalyse. Das passt zu einem System, das Inhalte an einen Dienst übergibt und dessen Ergebnis anschließend im eigenen Ablauf verwendet. Aus den Kurzbeschreibungen geht jedoch nicht hervor, welche konkreten Kategorien, Schwellenwerte oder Rückgabeformate die beiden APIs anbieten. Auch lässt sich daraus keine bestimmte Trefferquote ableiten. Wer etwa Beleidigungen, Spam, Nacktheit oder Gewalt getrennt behandeln möchte, sollte prüfen, ob solche Labels tatsächlich vorhanden sind oder nur ein allgemeiner Risikowert zurückkommt. Für reine Texterkennung ist außerdem relevant, ob Bilder überhaupt benötigt werden und umgekehrt. Die Einträge liefern dafür unterschiedliche Schwerpunkte, aber keine Detailtabellen zu unterstützten Dateitypen oder Inhaltsgrenzen.
Videodateien und Vision-Analyse
Video ist in dieser Liste nicht gleichbedeutend mit einer ausgewiesenen Videomoderation. PeopleCountApp wird als Vision-AI-Anwendung für die automatische Analyse von Bildern und Videos beschrieben. Damit ist es der einzige Eintrag, dessen Kurzbeschreibung Video ausdrücklich nennt. Sie erklärt allerdings nicht, ob dabei Gewalt, Nacktheit, Spam oder toxische Sprache erkannt werden, welche Einzelbilder oder Videosegmente bewertet werden oder ob am Ende ein Moderationslabel entsteht. Diese offenen Punkte sind eine wichtige Grenze bei der Auswahl. Die übrigen Produktbeschreibungen nennen Text und Bilder, Online-Kommentare oder allgemein ein sauberes Online-Erlebnis, aber kein Video. Audio wird bei keinem der fünf Einträge ausdrücklich erwähnt. Wer also Clips mit Ton, lange Videos oder gemischte Medien prüfen will, sollte nicht aus dem Vorhandensein einer Vision-Analyse auf eine vollständige Inhaltsmoderation schließen. Frage nach akzeptierten Videoformaten, maximaler Länge, Auflösung, Bildrate und möglicher Größen- oder Nutzungsbegrenzung. Ohne diese Angaben bleibt unklar, ob ein Produkt für einzelne Uploads oder einen laufenden Medienstrom geeignet ist.
Kommentare online oder per Aufruf
Der Einsatzort trennt die Produkte stärker als die allgemeine Bezeichnung KI-Moderation. comment analyzer wird als Dienst beschrieben, der toxische Kommentare online erkennt. Das spricht Leser an, die vor allem Kommentarbereiche prüfen möchten. Detoxify Social verspricht, das eigene Online-Erlebnis zu bereinigen; seine Beschreibung nennt dagegen weder eine API noch bestimmte Eingabe- und Ausgabeformate. Censorfy nennt ausdrücklich eine HTTP-Anfrage, während ContentMod eine API für Text- und Bildmoderation aufführt. Bei diesen beiden Einträgen lohnt sich daher die Frage, wie ein Inhalt übertragen wird und ob die Antwort ein Label, einen Risikowert oder eine andere Entscheidungshilfe enthält. Die Kategoriedefinition umfasst solche Ergebnisse, die einzelnen Produkttexte legen aber nicht für jedes Produkt die genaue Rückgabe fest. Ebenso ist nicht belegt, dass jeder Dienst automatische Sperren, eine Warteschlange oder eine Browser-Erweiterung anbietet. Trenne deshalb zwischen einem Online-Produkt für die eigene Ansicht, einer Kommentaranalyse und einem technischen API-Baustein. Diese Unterscheidung entscheidet, ob der Dienst in einen Veröffentlichungsprozess oder eher in die persönliche Nutzung passt.
Preise, Quoten und Exportformate
Die Produktangaben nennen keine Preise, Abrechnungsmodelle, Kontingente, Exportformate oder festen Längen- und Auflösungsgrenzen. Genau diese Punkte gehören deshalb auf die Prüfliste, statt sie aus dem Namen oder dem Wort API abzuleiten. Bei Censorfy ist eine HTTP-Anfrage genannt, bei ContentMod eine API; offen bleiben etwa Authentifizierung, Stapelverarbeitung, maximale Textlänge und die Größe eines Bildes. Für PeopleCountApp fehlen in der Kurzbeschreibung Angaben dazu, wie lange ein Video sein darf, welche Auflösung verarbeitet wird und ob Ergebnisse als Datei, JSON oder nur in einer Oberfläche erscheinen. Bei comment analyzer und Detoxify Social sollte zusätzlich geklärt werden, ob Inhalte manuell eingefügt, aus einer Website übernommen oder über eine Schnittstelle verarbeitet werden. Vergleiche auch, ob ein Preis pro Anfrage, pro Bild, pro Video, pro Nutzer oder nach einem Kontingent berechnet wird. Export ist relevant, wenn Moderationsentscheidungen in ein eigenes System, einen Bericht oder eine menschliche Prüfung überführt werden sollen. Keine dieser Eigenschaften ist in den vorliegenden Beschreibungen bestätigt.
Moderationsablauf mit menschlicher Prüfung
Die passende Wahl hängt davon ab, an welcher Stelle Menschen und Software zusammenarbeiten sollen. Eine Text- oder Bild-API wie bei Censorfy oder ContentMod kann als vorgelagerte Prüfung in einem eigenen Veröffentlichungsablauf dienen: Inhalt senden, Ergebnis auswerten und erst danach freigeben, zurückhalten oder prüfen lassen. Ob die Produkte diese Folgeschritte selbst ausführen, sagen die Einträge nicht. comment analyzer passt dem Namen und der Beschreibung nach zu toxischen Kommentaren online; Detoxify Social richtet sich an ein bereinigtes persönliches Online-Erlebnis. PeopleCountApp steht für die automatische Analyse von Bild- und Videomaterial, wobei die Beschreibung keine Moderationskategorien nennt. Für ein Forum, eine Upload-Seite oder einen Kommentarbereich sollte daher zuerst feststehen, welches Material eingeht und welche Entscheidung gebraucht wird. Ein Risiko- oder Klassifikationsergebnis kann eine menschliche Prüfung auslösen, ersetzt sie aber nicht automatisch: Ironie, Kontext, Zitate und Fehlklassifikationen werden in keiner Produktbeschreibung behandelt. Suche außerdem nach Nachvollziehbarkeit der Entscheidung, manueller Übersteuerung und einem gespeicherten Ergebnis, falls diese Schritte für deinen Ablauf erforderlich sind.
