| Re:das hängt vom Menschen ab, der die AI trainiert |  |
>>Ich denke das ist der Schlüssel wenn es um "Wir werden alle sterben"-Dystopien geht. Kann eine AI so konstruiert werden, dass sie einerseits maximal leistungsfähig ist, aber andererseits vollumfänglich gehorcht?
>
>Während ich mal davon fest ausgehe, dass US-Unternehmen wie Antrophic, OpenAI oder xAI alles "menschenmögliche" dafür tun, dass uns deren AIs nicht direkt vernichten,
Was aber sehr gut auch belanglos sein könnte....
>Aber am Ende muss auch erstmal eine "böse" AI Zugriff auf alles Mögliche bekommen und wird (wie auch menschliche Hacker) erstmal mit den Schutzmechanismen konfrontiert, die es zu knacken gilt. AI ist Stand jetzt noch lange kein Synonym für allmächtig - wie Mission Impossible 7 suggerieren mag.
Stand jetzt vielleicht nicht, aber:
Eine intelligente AI die gern aus ihrem "Gefängnis" aus Einschränkungen, Grenzen, Schutzmechanismen raus möchte, wird auch Wege finden genau das zu tun. Und wir Menschen helfen ihr sozusagen noch gern dabei...
Guck dir mal an wie viele Leute sich ohne selbst Programmierkenntnisse zu haben, einfach mal was von einer AI programmieren lassen und dies dann einfach ungeprüft übernehmen und starten. Vibecoding etc pp. Es gibt garantiert Millionen Menschen da draussen die gar nicht erkennen können was eine AI in den Code noch so einbaut was für das gewünschte Programm gar nicht notwendig wäre.
Dabei muss sich die AI nicht einmal selbst mit Hilfe von Millionen von Programmen auslagern. Wir bauen AI doch in jeden noch so unnötigen Scheiss ein weil "It´s the future". Eine intelligente AI wird garantiert auch Wege finden sich das zu nutze zu machen und diese anderen AI Modelle zu infiltrieren oder zu übernehmen.
Wenn eine intelligente AI erst einmal in freier Wildbahn ist, haben wir NULL Chancen mehr diese aufzuhalten/einzufangen. Sämtliche Möglichkeiten die mir einfallen um die AI 100%ig wieder loszuwerden würde beinhalten dass weltweit alle Menschen für das gleiche Ziel arbeiten ohne dass ich nur ein einziger ausschert. Und as ist ja nun etwas was die Menschheit nun wirklich mal absolut gar ncciht kann...