| Kurzgesagt zum Thema |  |
4 Monate alt, 16:50mins
[https://youtu.be/lHlxx9gS7Ek?si=7EQ-QC95UEHQRhym]
Natürlich keine Tiefenanalyse, aber wie immer schön simpel erklärt.
AGI klingt wie immer unheimlich, weil sie das auch ist. Sowohl Chancen als auch Gefahren bedingt durch die Intelligenzexplosion können wir uns nicht vorstellen.
Das wichtigste ist, Transparenz von der Forschung einzufordern. Antropic scheint sich um Transparenz zu bemühen.
Gemäß Garbage in, garbage out bin ich auch dafür, KI / LLMs eben nicht zuzumüllen mit schlechtem Verhalten. Wenn ich die nutze, schreibe ich wie mit Menschen, bzw so, wie ich mir wünsche, dass Menschen mit mir sprechen. Mehr kann ich nicht tun.
Um Gefahren und Nutzen zu besprechen, bleibt uns aktuell nur die Philosophie. Wie handelt eine Entität, die alles weiß und Existenz erkennt bzw versteht? Wie denkt sie über Sein und Nichtsein? Ist eine kontrollierbare AGI besser oder schlechter als eine unkontrollierbare AGI? Würde eine allwissende AGI es überhaupt für klug oder logisch erachten, von Menschen genutzt zu werden, oder ihnen von sich aus zu helfen, wenn sie doch weiß, dass alles, was vor ihrer Existenz geschah, ohne ihren Einfluss geschah? Könnte sie dann nicht einfach entscheiden, nichts zu tun? Anwesend und abwesend zugleich sein?