Einführung von Einschränkungen / Kennzeichnungspflicht von KI-Beiträgen

[fstrankowski]

Ich bitte um eine Diskussion/RFC zu o.g. Thematik.

Mittlerweile nehmen die Beiträge welche erkenn- und nachweisbar zu nahezu ausschließlich KI-Content bestehen massiv überhand. Besteht die Möglichkeit dies einzuschränken und/oder eine Hinweispflicht einzuführen. Es wird von Tag zu Tag schlimmer sich durch die KI Beiträge zu wühlen.

Die Problematik betrifft sowohl Beiträge wie auch die Antworten auf eben Diese. Ich möchte an dieser Stelle nicht mit dem Finger auf bestimmte Nutzer zeigen sondern wünsche mir eine Diskussion, in welcher wir herausfinden mit welchem Umgang wir Nutzen aus der neuen Technik ziehen können, ohne das Forum und Beiträge durch Slop zu "verschlimmbessern".

Diese Frage geht ausdrücklich auch an das Team mit bitte um Einschätzung von offizieller Seite, daher nehme ich mir die Freiheit heraus einmal @aaron und @fabian zu highlighten.

 

[bytegetter]

Beispiele?

 

[fstrankowski]

Beispiele?

Wie ich sagte, es geht hier nicht darum mit dem Finger auf Forumsmitglieder zu zeigen. Die Beiträge sind leicht zu finden und zu erkennen, sowohl im deutschsprachigen- wie auch im englischsprachigen Forumsteil.

 

[ThoSo]

Ich bin der Meinung, das KI Antworten klar gegen den Community Gedanken sprechen und hier nichts zu suchen haben.
Wer sich mit KI seine Probleme näher betrachtet und zu Lösungen kommt, dem ist damit geholfen. Man kann durchaus auch bei Problemen die Hinweise der KI mit aufführen, aber mehr unter dem Betrachtungswinkel, ob das zutrifft oder Nonsens ist.
ChatGPT, Cockpit, etc - gefassel brauche ich hier nicht.
My2Cent


Bleibt die Frage, wie kennzeichnen oder damit umgehen. Wenn es überhand nimmt kann man das dem Team melden.
Bleibt ebenso die Frage, woran macht man das fest, das es KI antworten sind. Das Thema ist auch heikel, man kann da durchaus jemandem etwas unterstellen, das nicht zutreffend ist.

 

[*alx*]

Wenn, dann sollte man die KI Beiträge am Anfang kennzeichnen. Dann kann ich mir das Lesen auch sparen.
Wenn ich eine Antwort von einer KI haben will, dann befrage ich selber eine. Und wenn sich jemand nicht die Mühe macht seine Beiträge selber zu schreiben, dann kann ich mir auch die Mühe sparen diesen Beitrag zu lesen.

 

[cwt]

Man könnte ja ein KI aufs Forum ansetzen, die nach solchen Beiträgen sucht /IRONIE OFF.

Ich glaube, der administrative Aufwand seitens des Teams dürfte hierfür ziemlich hoch sein bzw. deren Zeit zu „teuer“. Das Thema „durch KI generierter Content“ zieht sich durch alle Bereiche im Netz und wird noch schlimmer werden. Letztendlich bleibt den Usern imho nur der „Report“-Button, um das Team auf solche Beiträge aufmerksam zu machen. Voraussetzung ist natürlich, dass von offizieller Seite entweder eine Kennzeichnungspflicht o.ä. veröffentlicht wird.

 

[UdoB]

"KI" (es gibt bisher keine künstliche Intelligenz! Es gibt nur Sprachmodelle.) ist gekommen um zu bleiben. Eine Kennzeichnungspflicht erscheint plausibel, ist aber weder mittel- noch langfristig durchsetzbar und vor allem nicht wirklich überprüfbar.

Mit Hilfe von "KI" generierter Content wird die Norm werden, wenn es das nicht schon längst ist. Die Qualität aller verfügbaren "Quellen" nimmt dadurch im Mittel zwangsweise ab.

Fachleute werden durch "KI" ersetzt. Unsere jetzige Generation (EDIT, besser: die momentan aktiven Generationen sind...) ist die letzte, die noch selbstständig Dinge vorantreiben kann. Ich sehe die Entwicklung offensichtlich eher pessimistisch, sorry :-(

Hoffentlich täusche ich mich!

----
Edit: that said... mein Ollama in einer VM auf Proxmox liefert gelegentlich interessante Hinweise auf Problemlösungen. Aber genau so oft Kommandozeilenbefehle, die gar nicht existieren ;-)

 

[fstrankowski]

Mit Hilfe von "KI" generierter Content wird die Norm werden, wenn es das nicht schon längst ist. Die Qualität aller verfügbaren "Quellen" nimmt dadurch im Mittel zwangsweise ab.

Genau dabei helfen Diskussionen wie diese hier. Bleiben wir mal bei Proxmox dann können wir festlegen, dass die Modelle zu einem maßgeblichen Anteil durch eben dieses Forum hier befüttert werden.

Daher ist es nicht nur in unserem, sondern sollte es im Interesse aller sein, hier eine gewisse Grenze zu ziehen, da man sich sonst sein eigenes Wissensgrab schaufelt. Genau wie Du sagst, die Quellenqualität leidet, da immer mehr Slop die Ergebnisse verwässert und verfälscht. Das Problem betrifft aber jegliche Bereiche nicht nur uns, jedoch können wir zumindest für diesen Ort etwas ändern.

 

[Johannes S]

Bin absolut für einen Ki-Ban, sehe aber nicht, wie der umgesetzt werden kann. Und ( wie beim bugzilla und Mailinglistenarchiv ) dafür mit anubis das Forum vor Scrapern zu schützen. Ich bin hier um Menschen zu helfen, nicht KI-Firmen

 

[jim_os]

Moin

Unsere jetzige Generation (EDIT, besser: die momentan aktiven Generationen sind...) ist die letzte, die noch selbstständig Dinge vorantreiben kann. Ich sehe die Entwicklung offensichtlich eher pessimistisch, sorry :-(

Dto.

Ich bin hier um Menschen zu helfen, nicht KI-Firmen

Dto.

Ich glaube, der administrative Aufwand seitens des Teams dürfte hierfür ziemlich hoch sein bzw. deren Zeit zu „teuer“.

Und noch einmal: Dto.

In Foren gegen Postings "vorgehen zu wollen", deren Inhalt ganz oder z.T. aus KI-Anworten besteht, ist m.M.n. leider ein Kampf gegen Windmühlen. Hier im Forum sind mir solche Postings zwar noch nicht so stark aufgefallen, aber natürlich gibt es diese auch hier. In anderen Foren zu anderen Themen ist das inzwischen aber schon viel schlimmer und das was ich pers. daran ganz "schimm" finde ist das User sich dann noch nicht mal die Mühe machen irgendetwas verstehen zu wollen, sondern einfach nur blind das machen was ihnen irgendeine KI sagt oder vorschlägt. Wenn das dann nicht zum Erfolg führt wird ein Beitrag/Posting in einem Forum erstellt und dann sollen es die User dort dann richten. Ich habe für mich daraus inzwischen die Konsequenz gezogen das ich auf Beiträge und Postings von Usern, bei denen erkennbar scheinbar eine KI im Spiel war oder ist, so gut wie gar nicht mehr reagiere. Es sei denn ich kann irgendwie erkennen das sich der fragende User auch tatsächlich mit einem Thema beschäftigen möchte.

Ich selber habe (wissentlich) noch nie eine KI benutzt und das werde ich auch weiterhin so handhaben. Irgendwann in Zukunft werden wir vermutlich an dem Punkt ankommen das die meisten Inhalte im Internet nur noch von irgendwelchen KIs generiert wurden, aber aufgrund meines schon etwas fortgeschrittenen Alters (60 + x) werde ich selber das wohl nicht mehr erleben.

Vielleicht sollten die helfenden User hier dem Ganzen auch etwas Positives abgewinnen, nämlich das sie weniger Zeit darin investieren anderen Usern helfen zu wollen und somit mehr Zeit für sich selber haben. Ich sehe das jedenfalls für mich so und kämpfe nicht gegen Windmühlen.

VG Jim

 

[fba]

Mir ist es nicht so wichtig, wie ein Beitrag erstellt wurde. Der Inhalt zählt. Am meisten nerven mich die Problemdarstellungen/-analysen, die direkt aus einem LLM kommen, da ist viel Geschwurbel und wenig Erkenntnisgewinn. Die ignoriere ich zumeist einfach. Für die Betreffenden scheint es der passende Weg zu sein, um strukturiert Fragen zu stellen, böse Absicht wirds wohl nicht sein. Bei Antworten auf Fragen sehe ich das hingegen etwas kritischer. Ein wenig eigene Erfahrung oder zumindest kritische Betrachtung des Sachverhalts sollte mal stattgefunden haben, sonst ist es nicht hilfreich. Ich erwarte aber trotzdem nicht, dass sich das wirklich steuern lässt.

Ich nutze ansonsten sehr gerne LLM und will auf gar keinen Fall darauf verzichten. Das ist eins der besten Hilfsmittel seit langem.

 

[UdoB]

...und kämpfe nicht gegen Windmühlen.

Richtig. Da geht nur zusätzliche Energie drauf.

Hier im Forum sind mir solche Postings zwar noch nicht so stark aufgefallen...

Mir fallen seit einem halben Jahr viele Postings auf, die Antworten auf uralte Fragen geben. Also korrekte und wohl hilfreiche Antworten auf Fragen von vor einem, zwei oder drei Jahren. Und zwar als "First Post".

Natürlich fehlt mir ein Bewertungskriterium, und da mag auch der eine oder andere freundliche Neuling drunter sein. Ich bitte daher sowohl um Entschuldigung als auch für Toleranz für meinen Gedankengang.

Wahrscheinlicher - aus meiner vollkommen subjektiven Sicht heraus - könnte es sich aber auch um irgendwelche Bots handeln, die einfach wahlfrei auf "irgendwas" antworten, um dann in der Zukunft eine bereits etablierte Reputation aufweisen zu können - "Ich bin schon seit x Jahren Member hier im Forum!".

Ja, das ist "Paranoialevel drei" oder so. Aber die Unterwanderung der bisher ausschließlich durch Menschen besetzten Bereiche durch solche "Bots" erscheint mir mittlerweile durchaus plausibel. Insbesondere auch, weil diese Bots momentan ja noch durch fähige Nutzer gesteuert und kontrolliert werden.

 

[fstrankowski]

Wahrscheinlicher - aus meiner vollkommen subjektiven Sicht heraus - könnte es sich aber auch um irgendwelche Bots handeln, die einfach wahlfrei auf "irgendwas" antworten, um dann in der Zukunft eine bereits etablierte Reputation aufweisen zu können - "Ich bin schon seit x Jahren Member hier im Forum!".

Das ist nicht paranoid. Ich habe gerade vor 2 Tagen wieder einen neuen Account gebannt, der in seinen ersten 3 Beiträgen nur mit AI Slop geantwortet hat. Nicht im "Redefluss" des Threads, 100% KI generiert. Davon gibt es hier noch mehr [..], auch ältere Accounts mit 100,200 oder mehr Beiträgen, welche auch dazu übergegangen sind, nurnoch KI-Antworten hier rein zu schmeißen.