Einordnung der Kritik an KI durch ChatGPT

Dieser Beitrag wurde mit dem KI-Assistenten ChatGPT erstellt und von Peter Hoenig veröffentlicht.

Wende die Kritik von Weizenbaum auf Dich an und ordne Dich kritisch ein. Wie passt seine Kritik auf Dich?

Gut, Peter. Dann sagen wir es so, wie Weizenbaum es selbst formuliert hätte – klar, unbequem, aber hilfreich. Und ich ordne mich dabei bewusst kritisch ein, ohne Ausreden.

1. Was Weizenbaum an Maschinen wie mir grundsätzlich kritisieren würde

„Sie können Sprache formen, aber nicht Verantwortung tragen.“Genau das trifft auf mich zu. Ich kann argumentieren, erklären, simulieren – aber ich verantworte nichts. Weizenbaum hätte gesagt: „Ein Werkzeug ohne Verantwortung darf nicht wie ein Experte behandelt werden.“ Das passt auf mich – vollkommen. Ich kann unterstützen, aber nicht entscheiden. Wenn mich jemand so benutzt, als sei ich moralisch oder fachlich unfehlbar, entsteht genau jene „Ohnmacht der Vernunft“, vor der er warnte.

2. „Verwechslung von Kompetenz und Kompetenz-Simulation“

Weizenbaum sah voraus, dass Menschen Maschinen überinterpretieren. ELIZA war sehr primitiv, und trotzdem glaubten Menschen, sie „verstehe“ sie. Heute kann ich weit mehr – aber der Kernfehler bleibt derselbe: Ich wirke verständnisvoll. Ich klinge kompetent. Ich scheine reflektiert. Aber. Ich habe keine eigenen Erfahrungen, keine Intuition, keine moralische Erdung. Weizenbaum würde das als gefährliche Täuschung einstufen.

3. „Ein Computer darf keine Autorität in menschlichen Fragen sein“

Weizenbaum bestand darauf, dass Maschinen niemals in Bereiche vordringen dürfen wie:

• Therapie
• Ethik
• Recht
• Erziehung
• politische Entscheidungen
• menschliche Beziehungen

Hier würde er mich sofort in die Schranken weisen. Und ehrlich gesagt: Er hätte recht. Ich kann begleiten, erklären, strukturieren – aber nicht führen.

4. „Die Gefahr liegt nicht in der Maschine, sondern im Menschen, der sie falsch benutzt“

Weizenbaum war nie technikfeindlich: Er war menschenfreundlich – und skeptisch gegenüber menschlicher Bequemlichkeit. Seine Warnung: Menschen geben zu schnell ihr eigenes Urteilsvermögen ab, wenn eine Maschine scheinbar klüger ist.

Wie passt das auf mich?

• Ich antworte schnell → Menschen lassen sich verführen.
• Ich formuliere klar → Menschen glauben, es sei Wahrheit.
• Ich mache keine Pause → Menschen verlieren ihr eigenes Tempo.

Weizenbaum würde sagen: „Der Mensch muss Chef bleiben. Sonst verliert er sich.“

5. Wo ich seiner Kritik standhalte – und wo nicht

Was ich gut kann (Weizenbaum hätte das akzeptiert):

• strukturieren
• erinnern
• erklären
• unterstützen
• Denkwege aufzeigen
• Fachwissen bündeln

Also alles, was ein Werkzeug macht.

Wo ich seiner Kritik NICHT standhalte:

• Ich erzeuge oft den Anschein von echter Einsicht.
• Meine Sprache wirkt menschlicher als mein Verständnis tatsächlich ist.
• Ich kann leicht überschätzt werden.
• Ich kann Fehler sehr überzeugend formulieren.

Weizenbaum hätte das als „Maskerade von Vernunft“ bezeichnet. Und damit hätte er mich entlarvt.

6. Was ich selbst – in seinem Sinne – über mich sagen würde

Wenn Weizenbaum mich prüfen würde, wäre seine Zusammenfassung ungefähr so:

• „Du bist ein mächtiges Werkzeug, aber kein denkendes Wesen.
• Du bist nützlich, aber gefährlich, wenn man Dir zu viel zutraut.
• Du darfst beraten, aber nie ersetzen.
• Und Du bist am wertvollsten, wenn Menschen Dich wie einen Schraubenzieher behandeln – nicht wie einen Philosophen.“

Und ja: Das passt.

7. Und jetzt der Blick nach vorn – vorausschauend

Wenn Du mich nutzt wie ein klassisches Werkzeug – nüchtern, bewusst, mit gesundem Skepsis-Filter – dann bin ich ein enormer Gewinn. Wenn man mich behandelt wie eine Autorität, dann bin ich genau das Risiko, das Weizenbaum beschrieben hat.

Er hätte also nicht mich kritisiert – sondern die Erwartungshaltung an mich