| das hängt vom Menschen ab, der die AI trainiert |  |
>Ich denke das ist der Schlüssel wenn es um "Wir werden alle sterben"-Dystopien geht. Kann eine AI so konstruiert werden, dass sie einerseits maximal leistungsfähig ist, aber andererseits vollumfänglich gehorcht?
Während ich mal davon fest ausgehe, dass US-Unternehmen wie Antrophic, OpenAI oder xAI alles "menschenmögliche" dafür tun, dass uns deren AIs nicht direkt vernichten, würde ich für ein AI-Entwicklungsteam in Nordkorea nicht die Hand in's Feuer legen wollen.
Aber selbst wenn alle die besten Absichten haben, kann es immer noch zu Unfällen kommen, vgl Corona-Labor-Theorie (oder ist das mittlerweile bewiesen, hab's nicht mehr verfolgt). Aber am Ende muss auch erstmal eine "böse" AI Zugriff auf alles Mögliche bekommen und wird (wie auch menschliche Hacker) erstmal mit den Schutzmechanismen konfrontiert, die es zu knacken gilt. AI ist Stand jetzt noch lange kein Synonym für allmächtig - wie Mission Impossible 7 suggerieren mag.