Lumi Bros und der EU KIDS Act

Was der KIDS Act ist

Der EU KIDS Act (Keeping Internet Digital spaces accountable and trustworthy) ist ein Gesetzesvorschlag, den die Europäische Kommission im September 2026 vorgelegt hat. Er schafft EU-weit einheitliche Regeln zum Schutz von Kindern im Internet und wird nun vom Europäischen Parlament und vom Rat beraten, bevor er Gesetz wird. Den Vorschlag auf der Website der Europäischen Kommission lesen.

Kurz gesagt verlangt der Vorschlag von Onlinediensten, die Kinder nutzen:

• Verzicht auf süchtig machendes Design. Keine Serien („Streaks“), die ein Kind bestrafen, wenn es nicht jeden Tag zurückkommt, keine Benachrichtigungen, die es zurück in die App holen sollen, kein Autoplay. Dienste müssen Zeitlimits und Pausen anbieten.
• Klare Grenzen für KI-Chatbots und -Begleiter. Sie dürfen keine menschlichen Beziehungen simulieren, die emotionale Abhängigkeit erzeugen können, und frühere Gespräche eines Kindes standardmäßig nicht ins nächste übernehmen. Kinder unter 13 dürfen sie nur über Werkzeuge der elterlichen Kontrolle nutzen.
• Eingebettete Chatbots bleiben optional. Ein in einen anderen Dienst eingebauter Chatbot darf sich nicht selbst aktivieren oder dem Kind aufgedrängt werden und muss leicht abschaltbar sein.
• Sichere Voreinstellungen. Schutzeinstellungen sind standardmäßig aktiv, auf Tracking basierende Personalisierung ist deaktiviert.
• Altersprüfung unter Wahrung der Privatsphäre, mit Verfahren, die nicht mehr über das Kind preisgeben als nötig.
• Sicherheit vor und nach dem Start nachweisen. Risiken müssen bewertet werden, bevor ein Dienst Kinder erreicht, und danach überwacht werden. Elterliche Werkzeuge ergänzen die Pflichten des Anbieters, sie ersetzen sie nicht.

Verstöße können mit Geldbußen von bis zu 6 % des weltweiten Jahresumsatzes eines Unternehmens geahndet werden.

Im Einklang mit dem EU KIDS Act

Lumi wurde von der ersten Codezeile an für Kinder entwickelt. Die Pflichten des KIDS Act beschreiben, wie wir das Produkt bereits bauen. Deshalb erfüllen wir sie heute, bevor sie verbindlich werden.

Wie Lumi ihn bereits erfüllt

Ein Tutor, kein Begleiter

Lumi ist ein pädagogischer Sprachtutor. Er stellt sich immer als KI vor, nie als Mensch, und behauptet keine eigenen menschlichen Erfahrungen. Seine Aufgabe ist es, einem Kind beim Verstehen des Schulstoffs zu helfen, nicht ihm Gesellschaft zu leisten. Er spielt nicht den Freund und bittet ein Kind nie, zurückzukommen.

Gespräche bleiben beim Schulstoff

Spricht ein Kind etwas außerhalb des Schulstoffs an oder etwas, das für Minderjährige ungeeignet ist, führt der Tutor zur Lektion zurück, statt darauf einzugehen. Der Modus für freie Gespräche ist standardmäßig ausgeschaltet.

Sicherheit zuerst

Sagt ein Kind etwas, das auf eine Gefährdung hindeuten könnte, folgt der Tutor in jedem Modus demselben Sicherheitsprotokoll: Er stellt die Lektion zurück und verweist auf eine erwachsene Vertrauensperson. Eine Schaltfläche „Etwas stimmt nicht“ ist immer sichtbar; sie pausiert die Sitzung und zeigt dem Kind, mit wem es sprechen kann. Diese Ereignisse werden nur als Kategorie erfasst, nie mit den Worten des Kindes.

Keine Erinnerung an das Privatleben des Kindes

Das persönliche Gedächtnis ist standardmäßig ausgeschaltet. Von einer Sitzung zur nächsten behält der Tutor nur kurze Lernnotizen (behandelte Themen, Schwierigkeiten, Fortschritt), niemals, was das Kind gesagt hat. Das Kind kann diese Notizen jederzeit einsehen und löschen.

Keine Benachrichtigungen, die Kinder zurückholen

Lumi schickt Kindern keine Push-Benachrichtigungen, Nachrichten oder Erinnerungen, und kein Kind wird wegen Inaktivität kontaktiert. Ein Kind nutzt Lumi, wenn eine erwachsene Person oder seine Schule es so entschieden hat.

Zeitlimits nach Alter und keine Sitzungen in der Nacht

Jede Sitzung hat eine Höchstdauer und jeder Tag eine Höchstsumme, beide nach Altersgruppe festgelegt. Zwischen 21 und 7 Uhr kann keine Sitzung beginnen. Ist die Zeit um, schließt der Tutor mit einer Zusammenfassung ab und die Sitzung endet.

Eine erwachsene Person hat immer die Kontrolle

Der Zugang wird von Erwachsenen eingerichtet: von Eltern oder Erziehungsberechtigten über ein Familienkonto oder von einer Schule für ihre Schülerinnen und Schüler. Ein Kind meldet sich nie selbst an. Eltern und Schulen sehen den Sitzungsverlauf, die aufgewendete Zeit und den Fortschritt; jede Änderung an den Einstellungen eines Kindes wird protokolliert und dem Kind mitgeteilt. Lehrkräften werden keine KI-generierten Bewertungen angezeigt.

Keine Serien, keine Ranglisten, keine Feeds

Keine Serien („Streaks“) oder Belohnungen für die Rückkehr an aufeinanderfolgenden Tagen, keine Rangliste, die Kinder miteinander vergleicht, kein endloses Scrollen und kein Autoplay. Eine Sitzung hat einen Anfang und ein Ende.

Kein Tracking, keine Werbung, keine Emotionsanalyse

Wir erheben nur, was eine Lektion braucht. Wir erstellen keine Werbeprofile von Kindern, verkaufen oder übermitteln ihre Daten nicht zu Marketingzwecken und zeigen ihnen keine Werbung. Lumi analysiert weder Stimme noch Gesicht noch Worte eines Kindes, um auf seine Gefühle zu schließen, und der Dienst startet nicht, wenn eine solche Funktion eingeschaltet wird. Mitschriften werden nach kurzer Zeit automatisch gelöscht, und was ein Kind sagt, wird ohne gesonderte Einwilligung der Erziehungsberechtigten nicht zur Verbesserung von KI-Modellen verwendet.

Sagen Sie uns, wenn etwas nicht stimmt

Wenn Ihnen an einem Gespräch etwas Sorge bereitet, schreiben Sie an [email protected], und wir sehen uns die Sitzung an. Mehr dazu in unserer Kinderschutzrichtlinie.

Wir halten diese Seite aktuell, während der Vorschlag im Europäischen Parlament und im Rat beraten wird. Stand: September 2026.