OT: Debian erlaubt KI-Beiträge ohne Kennzeichnungspflicht

jim_os

Renowned Member
Oct 8, 2022
428
291
68
Germany
Heise News dazu: https://www.heise.de/news/Debian-erlaubt-KI-Beitraege-ohne-Kennzeichnungspflicht-11435420.html

Ich hoffe mal das das nicht die Büchse der Pandora öffnet und ich frage mich auch wie man dann das
"Konkret sollen Entwickler die KI-Ausgaben verstehen, prüfen, testen und bei Bedarf überarbeiten, bevor sie sie übernehmen. Ein ungeprüftes Hochladen generierter Inhalte widerspreche den etablierten Entwicklungspraktiken des Projekts. Somit formuliert Debian keine neue Prüfungspflicht, sondern betont lediglich, was ohnehin bei jeder Einreichung gilt: Der Absender muss für deren Qualität und Herkunft einstehen."

wirklich sicherstellen will. Wenn ich z.B. im Smarthome Bereich sehe wie viele User sich da jetzt dank KIs zum Entwickler berufen fühlen und irgendetwas, was quasi kompl. von einer KI stammt und was sie in Gänze ganz sicher nicht vollständig verstehen, oder gar auf verschiedene Aspekte hin überpüfen, auf die User loslassen, dann schwant mir da Böses. Aber nun gut, man wird sehen ....

VG Jim
 
Ehrlich gesagt ändert das bei Debian doch wenig, mit dem DCO lag die Verantwortung schon immer beim Einreicher. Ungeprüft zusammenkopierten Kram gab's auch vorher schon, halt von Stack Overflow statt vom LLM. Was real schützt ist der Review- und Sponsoring-Prozess, und den hat Debian ja. Das Szenario das du beschreibst ist eher das Ein-Mann-Repo auf GitHub, wo genau diese zweite Instanz fehlt, und da hilft keine Policy von irgendeinem Projekt.

Und eine Kennzeichnungspflicht hätte daran vermutlich auch nix geändert. Wer den Output ungeprüft reinkippt, setzt das Häkchen halt auch nicht. Bleibt am Ende an den Maintainern hängen, wie vorher auch, nur mit mehr Volumen im Eingang.
 
Da brauchst nicht all zu weit zu gehen, hier ein schönes Beispiel für..
 
  • Like
Reactions: Johannes S
Ich sehe ( und das als bekennender KI-Luddit!) auch nicht so das Problem. Im Grunde sagt Debian, dass „aber die ki sagt, das passt so“ keine erlaubte Ausrede ist Bullshit abzuliefern ;)

OpenBSD hatte ja das Vergnügen mit einen Vibecoder, der versuchte einen vibegecodeten Treiber für ext3/4 Dateisysteme beizusteuern . Da er außer „KI sagt alles ok“ die Einwände („Wie sollen wir diese Menge Code vernünftig reviewen, wenn sie nicht in unseren Codestyle ist?“, „woher weißt du, dass die ki keinen GPL-lizenzierten Code ( den darf man ohne ok des urautoren nicht unter bsd-Lizenz veröffentlichen) verwendet hat?“) nicht wirklich entkräften konnte, blieb es halt beim Versuch.

Bei Debian oder dem Linux-Kernel würde ich bei einen vergleichbaren Fall ähnliches erwarten.
 
Last edited:
  • Like
Reactions: gurubert and UdoB
Der Lizenz-Punkt von @Johannes S ist eigentlich der spannendere, das Codestyle-Argument erledigt sich ja mit genug Nachdruck im Review. Beim DCO unterschreibst du nicht nur "ich steh dafür grade", sondern auch dass du das Recht hast, den Code unter der Lizenz einzureichen. Und genau das kann bei LLM-Output ernsthaft niemand zusichern, weil keiner weiß was da im Training drin war. Praktisch geprüft wird das aber ohnehin nicht, weder bei KI-Code noch bei handgetipptem der verdächtig nach einem GPL-Projekt riecht. Auffliegen tut sowas erst wenn jemand den Code wiedererkennt, und das war vor den LLMs genauso. Das ist kein neues Problem, nur eins das jetzt öfter vorkommt.
 
Beim DCO unterschreibst du nicht nur "ich steh dafür grade", sondern auch dass du das Recht hast, den Code unter der Lizenz einzureichen. Und genau das kann bei LLM-Output ernsthaft niemand zusichern, weil keiner weiß was da im Training drin war. Praktisch geprüft wird das aber ohnehin nicht, weder bei KI-Code noch bei handgetipptem der verdächtig nach einem GPL-Projekt riecht.
Du hast "Das Geschäftsmodell der AI-Codeassistenten beruht auf systematischen Verstoßen gegen Urheberrecht und opensource-Lizenzen" sehr umständlich ausgedrückt :)
Weil auch wenn das Problem nicht grundsätzlich neu ist, erreicht es so doch eine neue Qualität.
 
Last edited:
  • Like
Reactions: gurubert and Bu66as