Entstehung des KI-Detektors

Ursprung

Wie alles begann

Die rasante Entwicklung großer Sprachmodelle wie ChatGPT bringt neue Herausforderungen mit sich. Moderne KI-Systeme können Texte erstellen, die kaum noch von menschlichen zu unterscheiden sind – das belegen zahlreiche Studien. Doch im deutschsprachigen Raum gab es bislang kein Tool, um solche KI-generierten Inhalte zu erkennen.

Aus diesem Bedarf heraus entstand Detectora als Forschungsprojekt einer Masterarbeit. Das Ziel: Ein wissenschaftlich fundiertes Tool zu entwickeln, das die Herkunft deutschsprachiger Texte zuverlässig analysiert.

Die Forschung erhielt den Innovationspreis des Wedeler Hochschulverbundes e.V. (WHB).

Mich begeistert, dass die Arbeit über das theoretische Ergebnis hinausgeht. Viele bestehende Modelle können mit einfachen Mitteln manipuliert werden, beispielsweise durch syntaktische Anpassungen wie absichtlich eingefügte Rechtschreib- und Tippfehler, … Tloks KI-Detektor ist zuverlässig und weist daher einen hohen praktischen Nutzen auf. 

Prof. Dr. Hendrik Annuth

Studiengangsleiter Data Science & Artificial Intelligence, FH Wedel



Umsetzung

Der Weg zur Realität

Anfragen von Medien wie dem NDR und der taz zeigten das große öffentliche Interesse und den klaren Bedarf an einem deutschsprachigen KI-Detektor. Dies motivierte zur Gründung des Unternehmens Detectora, das den Detektor nun Nutzern bereitstellt. Erste Anwender, darunter Schulen und Journalisten, nutzten Detectora, um den Umgang mit KI-generierten Texten zu erleichtern und Klarheit zu schaffen. Ihr wertvolles Feedback half, das Tool gezielt weiterzuentwickeln und an die Bedürfnisse der Nutzer anzupassen.

Mit der Entwicklung neuer Sprachmodelle über GPT-3.5 hinaus wurde Detectora kontinuierlich erweitert, um auch diese zuverlässig zu erkennen. Dabei stand die Reduzierung von False Positives im Vordergrund, um präzise und verlässliche Ergebnisse zu liefern. So wuchs aus einem Forschungsprojekt ein praxisnahes Werkzeug, das den aktuellen Herausforderungen gerecht wird.

Heute

Aktiver Dialog

Um Klarheit im Umgang mit KI-generierten Texten zu schaffen, steht der Dialog mit Fachleuten und Institutionen im Vordergrund. Erkenntnisse werden regelmäßig auf Veranstaltungen und in Fachkreisen wie bei Europol, dem Deutschen Journalisten-Verband und der IHK ausgetauscht. Dieser Austausch trägt dazu bei, Detectora kontinuierlich zu verbessern und aktuellen Anforderungen gerecht zu werden.

Einblicke

Verantwortung

Blick in die Zukunft

Ab Mai 2026 schreibt das KI-Gesetz vor, dass Inhalte, die von KI-Systemen erzeugt werden – wie Texte, Bilder oder Videos – klar gekennzeichnet sein müssen. Damit soll sichergestellt werden, dass Nutzer erkennen können, ob sie mit künstlich erzeugten oder veränderten Inhalten interagieren.

Detectora bereitet sich darauf vor, Unternehmen dabei zu unterstützen, diese neuen Anforderungen zu erfüllen. Mit präzisen Kennzeichnungsmechanismen hilft Detectora dabei, Transparenz zu schaffen und die Vorgaben des Gesetzes zuverlässig umzusetzen.