| Re:AI Coding ist immer noch ein Drahtseilakt |  |
>Wie ein Kind, dem man klare Anweisungen gibt und dann trotzdem macht was es will.
>
>Ist jetzt eben zum vermutlich 10. Mal in den letzten Monaten passiert, dass Claude einfach mal die Datenbank löscht, um irgendwas autonom zu testen. Dabei steht an unterschiedlichen Stellen, dass das entsprechende Kommando NIEMALS genutzt werden darf (z.B. in CLAUDE.md, dass bei jedem Prompt automatisch berücksichtigt werden sollte...).
Okay, dass ist krass. So etwas ist mir mit Claude noch nie passiert. Mit CoPilot (GitHub) in Visual Studio ja, CoPilot ist IMO aber Lichtjahre hinter Claude Code.
>So geil die Entwicklung voranschreitet, ich würde jedenfalls vom AI-Coding direkt auf Live-Systemen abraten. Und ja, das machen Leute...
Denen ist aber auch nicht mehr zu helfen ;-) Ich möchte Claude Code in meiner täglichen Arbeit nicht mehr missen, aber man muss schon ganz genau hinschauen was da passiert.
Etwa OT, aber ich bin neulich über dieses Video gestolpert, was ein Augenöffner war, warum sie Coding Agents oder genrell Sprachmodelle oft anfangen im Kreis zu drehen bei gewissen Aufgaben.
[https://www.youtube.com/watch?v=-uW5-TaVXu4]