| Re:Ich les mir das noch durch, versprochen |  |
>>Aber vllt befinden wir uns in unterschiedlichen Projektphasen, ich war eher noch beim Brainstorming :)
>
>Brainstorming... ok.
>
>Wie wäre ein auf deutschen Grundgesetz, StGB, Menschenrecht nach Charta der Vereinten Nationen und ähnlichen allgemein als menschlich und fair anerkannten Texten trainierter AI Moderator auf der neuen Plattform?
>
>Die Plattform hat dann "10 Gebote des Umgangs" und der AI Bot versucht diese dann unter Nutzung der vorher genannten Texte umzusetzen. Dann wäre zumindest der Faktor Mensch und menschliches Fehlverhalten und Korruption nicht gegeben. Der AI Mod behandelt alles für immer gleich.
Tatsächlich hab ich auch an sowas gedacht. Hier diese Frage hatte ich gemini am 16.1. gestellt:
Nehmen wir mal an, eine soziale Medienplattform bietet lediglich die Option für Nutzer*innen an, KI zur Filterung von respektloser Kommunikation einzusetzen, wäre das nicht eine Lösung? Zensur wäre das ja dann nicht, und dennoch würden sich viele Nutzer*innen motiviert sehen, respektvoller zu schreiben oder zu sprechen.
Das ist ein interessanter Ansatz, der sowohl Vorzüge als auch Herausforderungen birgt.
Argumente dafür, dass dies eine Lösung sein könnte:
- Proaktive Moderation: Durch den Einsatz von KI könnte respektlose Kommunikation schneller erkannt und entfernt werden, bevor sie sich weiter verbreitet.
- Entlastung menschlicher Moderatoren: Menschliche Moderatoren könnten sich auf komplexere Fälle konzentrieren und müssten nicht mehr so viele einfache Fälle von Hassrede oder Beleidigungen bearbeiten.
- Motivation zur Höflichkeit: Wenn Nutzer*innen wissen, dass ihre Beiträge von einer KI überprüft werden, könnten sie sich stärker bemühen, respektvoll zu kommunizieren.
- Keine Zensur im klassischen Sinne: Da die KI lediglich Inhalte filtert und nicht aktiv Nutzer*innen blockiert oder löscht, könnte man argumentieren, dass es sich nicht um Zensur handelt.
Argumente dagegen:
- Fehlalarme: KI-Systeme sind nicht perfekt und können Fehlalarme auslösen, was dazu führen kann, dass legitime Meinungen zensiert werden.
- Manipulation: KI-Systeme können manipuliert werden, um bestimmte politische oder ideologische Ziele zu verfolgen.
- Ethische Fragen: Wer entscheidet, welche Inhalte als respektlos gelten und welche nicht?
- Abhängigkeit von Technologie: Eine zu starke Abhängigkeit von KI könnte dazu führen, dass menschliche Moderation vernachlässigt wird.
- Einschränkung der Meinungsfreiheit: Auch wenn es nicht als klassische Zensur betrachtet wird, könnte die Filterung von Inhalten als Einschränkung der Meinungsfreiheit empfunden werden, insbesondere wenn die Algorithmen nicht transparent sind.
Zusätzliche Überlegungen:
- Kombination aus KI und menschlicher Moderation: Eine optimale Lösung wäre wahrscheinlich eine Kombination aus KI und menschlicher Moderation, wobei die KI die erste Filterung übernimmt und die menschlichen Moderatoren die komplexeren Fälle überprüfen.
- Transparenz: Es ist wichtig, dass die Algorithmen transparent sind und dass Nutzer*innen die Möglichkeit haben, gegen Entscheidungen der KI zu Widerspruch einzulegen.
- Nutzererziehung: Parallel zum Einsatz von KI sollte auch in die Nutzererziehung investiert werden, um Menschen für die Bedeutung von respektvoller Kommunikation zu sensibilisieren.
Fazit:
- Der Einsatz von KI zur Filterung respektloser Kommunikation kann ein wertvolles Instrument sein, um eine positivere Online-Kultur zu fördern. Allerdings ist es wichtig, die damit verbundenen Herausforderungen und ethischen Fragen sorgfältig abzuwägen. Eine umfassende Lösung erfordert eine Kombination aus technischen, sozialen und rechtlichen Maßnahmen.
>
>Welche 10 Regeln? Mal als Vorschlag (Regeln, die ich auch oft nicht befolge, aber weiß, dass es besser wäre dies zu tun):
>
>Du sollst:
>1. Fair bleiben und respektvoll verhalten (aka "don't be a dick")
>2. Ernsthaft versuchen, das gegenüber und seine Standpunkte zu verstehen
>3. Wohlwollen zeigen und Aussagen möglichst positiv interpretieren
>4. Fragen stellen statt vorschnelle Annahmen
>5. Schnittmengen in den Meinungen finden und diese ausweiten
>6. Sachlich informieren, aber nicht von oben herab belehren
>7. Eigene Meinungen immer begründen
>8. Beim Thema bleiben oder zumindest schnell dahin zurückkehren
>9. Kritik nur sachlich vorbringen und niemals persönliche angreifen (kein Argumentum ad hominem)
>10. Deeskalieren, wenn es emotional wird
>
>Das wäre in meinen Augen mal ein neuer Ansatz, der bislang noch nicht probiert wurde.
Da geh ich mit, und das Regelwerk kann man ja noch gut ausdefinieren, erweitern, konkretisieren. Also ich find's bisher nicht übel.
KI-Moderation müsste imo nur unterstützend sein. Hinweise geben, ist meine Einschätzung. Die letztendliche Beurteilung würde ich aber wohl doch eher der Userschaft überlassen. Wie gesagt, wenn respektvolle User früher am Start sind und mitwirken, sind sie auch mächtiger durch die Wägung ihrer Votes.
Interessant wäre, ob diese User dann auch gewillt wären, gegenteilige Meinungen wirklich auch upzuvoten. Aber ich setze da auf das Schwarmverhalten. Es entscheidet nie einer alleine. Selbstregulation halt nach obigen Regeln.
Menschliche Moderation braucht's trotzdem immer, das is klar. Gesetzwidrige Inhalte etc müssen asap entfernt werden.