USA: KI-Systeme verbessern Quellenangaben, Studie zeigt Lücken und Fortschritte
Ein neuer Bericht von Creative Commons weist darauf hin, dass aktuelle KI‑Systeme zunehmend in der Lage sind, die Herkunft ihrer Informationen offenzulegen, obwohl noch erhebliche Lücken bestehen. Die Analyse basiert auf einer Untersuchung des AI Disclosures Project, die mehr als 30 % der Antworten führender großer Sprachmodelle ohne jegliche Quellenangabe ergab.
Studienergebnisse zum Attributionsdefizit
Die Untersuchung zeigte, dass selbst bei vorhandenen Quellenangaben diese oft unvollständig oder für Nutzer schwer nachvollziehbar sind. Die Autoren betonen, dass die fehlende Attribution nicht ausschließlich technischer Natur sei, sondern auch aus Designentscheidungen resultiere.
Retrieval‑augmented Generation als Fortschritt
Neuere Architekturen, insbesondere Retrieval‑augmented Generation (RAG), ermöglichen es KI‑Systemen, aktuelle Daten aus dem Web oder aus Nutzerdateien zu beziehen und diese Quellen im Ergebnis zu verlinken. Durch die Aufbereitung von Textfragmenten mit eindeutigen Kennungen können Systeme wie Claude Fußnoten mit anklickbaren Links erzeugen.
Beispiele aus der Praxis
Der KI‑Dienst Claude nutzt standardmäßig eine Chunk‑basierte Zitierfunktion, die ausgewählte Quellen im Text vermerkt. Das Open‑Source‑Projekt Pleias‑RAG erzeugt dagegen sowohl die Antwort als auch das Zitat in einem Durchlauf, wodurch flexiblere Formulierungen entstehen, jedoch keine Garantie für exakte Übereinstimmung mit den Originalquellen besteht.
Forschungsansätze zur Datenattribution
Wissenschaftler entwickeln Methoden, um den Einfluss einzelner Trainings‑ oder Abrufquellen zu quantifizieren. Dazu gehören die Analyse von Aufmerksamkeitsgewichten, Gradienten‑basierte Sensitivitätsmessungen, „Leave‑One‑Out“-Experimente sowie approximative Verfahren wie AttriBoT, ContextCite, Shapley‑Werte, EK‑FAC, TracIn und TRAK. Diese Techniken versuchen, die Bedeutung einzelner Datenpunkte für ein Ergebnis zu schätzen, wobei die Berechnung bei sehr großen Modellen besonders aufwendig ist.
Herausforderungen und Kosten
Die meisten Ansätze erfordern umfangreiche Rechenressourcen, etwa durch wiederholte Inferenzläufe oder das Lösen großer Matrizen. Für aktuelle Modelle mit Billionen von Parametern ist eine exakte Attribution bislang nicht praktikabel, weshalb viele Studien auf Näherungen zurückgreifen.
Regulatorischer Druck nimmt zu
Gleichzeitig steigt der politische Druck auf Entwickler, die Herkunft ihrer Trainingsdaten offenzulegen. Während einige Unternehmen die Offenlegung als unnötige Belastung ansehen, fordern Gesetzgeber zunehmend mehr Transparenz, um mögliche Risiken für Nutzer und Urheber zu mindern.
Dieser Bericht basiert auf Informationen von Creative Commons, lizenziert unter Quelle beachten. Lizenzangabe konnte nicht eindeutig zugeordnet werden.
Ende der Uebertragung