Helmit im Test. Eine KI-App für mehr Kinderschutz auf Social Media
Kinder bewegen sich heute selbstverständlich in digitalen Räumen. Sie schreiben Nachrichten, teilen Inhalte und knüpfen Kontakte. Für Eltern und Lehrpersonen bleibt dabei vieles unsichtbar. Der Elternblog Medienzeit hat die Kinderschutz-App Helmit getestet und kommt zu einem differenzierten Ergebnis.
Was Helmit erkennen soll
Helmit ist eine Kinderschutz-App aus München, die Social-Media-Aktivitäten von Kindern mithilfe von KI analysiert. Das Unternehmen wird laut eigener Webseite unter anderem von der Technischen Universität München und der ETH Zürich unterstützt. Laut Anbieter erkennt das System Mobbing, übergriffige Nachrichten, mögliche Groomingversuche durch Erwachsene sowie Gespräche über Gewalt oder Selbstverletzung. Die Analyse läuft im Hintergrund. Eltern erhalten erst dann eine Benachrichtigung, wenn das System einen konkreten Anlass erkennt. Unterstützt werden laut Hersteller WhatsApp, Instagram, Snapchat, TikTok, Discord und YouTube.
Im Praxistest des Elternblogs zeigte sich, dass besonders WhatsApp regelmäßig Hinweise auslöste. Häufig handelte es sich laut Test um Memes, Kettenbriefe oder grenzwertige Inhalte, die Kinder ohne weitere Einordnung weiterleiteten.
Datenschutz und Privatsphäre
Helmit verfolgt einen lokalen Ansatz. Laut Anbieter erfolgt die KI-Analyse vollständig auf dem Gerät der Eltern, Inhalte werden nicht in eine Cloud geladen oder an Dritte weitergegeben. Das Unternehmen gibt an, nach SOC-2-Standard zertifiziert und DSGVO-konform zu arbeiten. Eltern lesen Chats nicht dauerhaft mit. Erst wenn das System ein Risiko erkennt, wird ein kurzer Ausschnitt der betreffenden Nachricht sichtbar. Über die Einstellungen lassen sich auch einzelne Chats von der Analyse ausschließen oder die Sensitivität an das Alter des Kindes anpassen.
Der Medienzeit-Test benennt auch Schwächen. Die Verbindung zu YouTube funktionierte bei Konten, die über Google Family Link verwaltet werden, im Test nicht zuverlässig. Genau diese Konten werden Eltern jedoch häufig empfohlen. Die Entwickler arbeiten laut Aussage des Testberichts an einer Lösung. Hinzu kommt, dass auch eine KI Inhalte falsch einordnen kann. Fehlalarme gehören zum Alltag der Anwendung. Die App ist derzeit nur über den Mac App Store und den Microsoft Store verfügbar.
Was bleibt für Schule und Familie
Helmit kann sichtbar machen, was im digitalen Alltag von Kindern oft verborgen bleibt. Der Testbericht hebt hervor, dass viele Warnungen Anlass für Gespräche zwischen Eltern und Kind waren. Die App ersetzt jedoch keine medienpädagogische Begleitung. Lehrpersonen und Eltern stehen weiterhin in der Verantwortung, mit Kindern und Jugendlichen über digitale Inhalte zu sprechen, problematische Situationen einzuordnen und Medienkompetenz aufzubauen. Apps wie Helmit funktionieren am besten, wenn Schüler:innen wissen, dass eine solche Anwendung im Hintergrund läuft, und wenn Erwachsene das Gespräch suchen, statt nur zu kontrollieren.
Dieser Artikel wurde mit Unterstützung von KI formuliert und redaktionell überarbeitet.