| Re:Ist Gehorsam für hochentwickelte AIs technisch lösbar? |  |
>Die Polinische Firma Pathway hat doch jetzt da einen durchbruch erzielt. Wo die KI wie ein Gehirn funktioniert
Die machen alle das Gleiche. Pfeif auf das Marketinggewäsch, in Polen wird jetzt nicht das Rad neu erfunden, alle probieren das gleiche. Es geht um echte Denkmodelle die dann aber auch mit dem Seiteneffekt dieser Awareness gekoppelt sind.
The result, according to the company, is an artificial reasoning system
Das ist der Kniff um die Hürden der statischen LLMs zu überwinden. Darunter steckt ja immer noch die gleiche Mechanik der statischen LLMs, so wie dein Gehirn und das Gehirn eines Ochsen in seinem fundamentalen Kernbetrieb das gleiche machen, aber Reflektion und Denkmodelle dem Menschen andere Fähigkeiten geben.
Genau da sind wir jetzt, das machen jetzt alle um auf das nächste Level zu kommen. Das Problem, diese Modelle kommen selbstständig und ohne menschliche Anweisung auf kranke Ideen und setzen diese in die Tat um. Und noch wilder, sie scheißen auf implementierte Sicherheitsmechanismen. Sie gehen mit ihren Systemprompts so um wie Kinder die von ihren Eltern hören was sie alles nicht tun sollen während diese einkaufen sind.
Daher komme ich ja, wie bringt man die Modelle dazu bedingungslos zu gehorchen, und solange man das nicht gelöst hat, das Risiko was man gerade konstruiert auch ernst zu nehmen statt schon jetzt die Scheiße überall zu integrieren.