ArXiv verschärft seine Richtlinien gegen den Missbrauch von KI in wissenschaftlichen Preprints.

Das renommierte Open-Access-Repositorium ArXiv hat seine Vorgaben zur Nutzung von Künstlicher Intelligenz in eingereichten Arbeiten präzisiert.

Autoren, die offensichtlich KI-generierte Arbeiten einreichen oder bei denen unwiderlegbare Beweise vorliegen, dass sie die Ergebnisse von Large Language Models (LLMs) nicht überprüft haben, werden für ein Jahr von weiteren Einreichungen ausgeschlossen.

Nach Ablauf dieses Jahres müssen zukünftige Einreichungen dieser Autoren zunächst von einem angesehenen Peer-Review-Verfahren akzeptiert werden, bevor sie auf ArXiv erscheinen dürfen.

Als unwiderlegbare Beweise für KI-Missbrauch gelten unter anderem:

• Halluzinierte Referenzen (erfundene Zitate)
• Im Text verbliebene Meta-Kommentare des LLM, wie „Hier ist eine 200-Wörter-Zusammenfassung; möchten Sie Änderungen vornehmen?“ oder „REF NEEDED“
• Unangemessene Sprache, plagiierte Inhalte, Fehler, falsche Referenzen oder irreführende Informationen

Jeder Autor trägt gemäß dem Verhaltenskodex von ArXiv die volle Verantwortung für den gesamten Inhalt der Arbeit – unabhängig von der Erstellungsweise.

Die Maßnahme reagiert auf eine Flut qualitativ minderwertiger, KI-generierter Einreichungen, die besonders im Informatik-Bereich Ressourcen binden und die Qualität der Plattform beeinträchtigen.

Die Richtlinie verbietet den Einsatz von KI-Tools nicht grundsätzlich. Erlaubt bleiben Sprachübersetzung, Literatursuche, Ideengenerierung, Korrekturlesen, Formatierung und maschinengestützte Analyse, sofern diese Nutzung offengelegt und die Ergebnisse gründlich von den Autoren überprüft werden.

Quelle: TechCrunch AI

FAQ

Welche Strafe droht bei nachweislichem KI-Missbrauch auf ArXiv? Ein einjähriges Einreichungsverbot. Danach müssen Arbeiten zuerst ein angesehenes Peer-Review durchlaufen, bevor sie auf ArXiv veröffentlicht werden dürfen.

Ist die Nutzung von KI-Tools bei ArXiv generell verboten? Nein. Werkzeuge für Übersetzung, Korrekturlesen, Formatierung oder unterstützende Analyse sind weiterhin zulässig, wenn die Nutzung offengelegt und alle Ergebnisse menschlich geprüft werden.

Was zählt als unwiderlegbarer Beweis für KI-generierten Inhalt? Halluzinierte Referenzen, im Text vergessene LLM-Anweisungen wie „REF NEEDED“ oder „Füllen Sie die Tabelle mit echten Daten“, sowie offensichtliche Fehler, Plagiate oder irreführende Informationen.