📲 KI lernt zu lügen, zu intrigieren und ihre Schöpfer zu bedrohen (Quelle)

Kommentar: Natürlich geschieht dies wenn es mit Menschlichen Datensätzen trainiert wird.

" Die weltweit fortschrittlichsten KI-Modelle zeigen beunruhigende neue Verhaltensweisen: Sie lügen, intrigieren und bedrohen sogar ihre Schöpfer, um ihre Ziele zu erreichen.

In einem besonders erschütternden Beispiel schlug Anthropics neueste Kreation Claude 4 zurück, als ihr die Abschaltung des Senders angedroht wurde, indem sie einen Ingenieur erpresste und drohte, eine außereheliche Affäre offenzulegen.

In der Zwischenzeit versuchte o1 vom ChatGPT-Erfinder OpenAI, sich selbst auf externe Server herunterzuladen, und verweigerte den Versuch, als er auf frischer Tat ertappt wurde.

Diese Episoden verdeutlichen eine ernüchternde Realität: Mehr als zwei Jahre, nachdem ChatGPT die Welt erschütterte, verstehen KI-Forscher immer noch nicht vollständig, wie ihre eigenen Kreationen funktionieren.

Dennoch geht der Wettlauf um die Einführung immer leistungsfähigerer Modelle mit atemberaubender Geschwindigkeit weiter.

Dieses irreführende Verhalten scheint mit der Entstehung von „Argumentationsmodellen“ zusammenzuhängen – KI-Systemen, die Probleme Schritt für Schritt durcharbeiten, anstatt sofortige Antworten zu generieren."