Kann man zuverlässig erkennen, ob ein Text von ChatGPT oder einem anderen großen Sprachmodell geschrieben wurde? KI-Detektoren versprechen genau das! Doch wie funktionieren sie eigentlich, und wie verlässlich sind ihre Ergebnisse?
In der neuen Folge des Podcasts „Autonomie & Algorithmen“ sprechen Benjamin Paaßen und Lena Ackermann mit Lukas Gehring von der Universität Bielefeld und der KI-Akademie OWL über Verfahren zur Erkennung KI-generierter Texte. Gehring forscht zu KI-geschriebenen Texten im Bildungsbereich.
Gemeinsam geht es darum, warum solche Detektoren auch menschlich geschriebene Texte fälschlicherweise als KI-generiert einstufen können und weshalb bereits kleine Änderungen an einem Text ihre Einschätzung beeinflussen. Besonders relevant wird das in Schule und Hochschule, wenn beurteilt werden soll, welche Leistungen tatsächlich von Menschen erbracht wurden.