Das ist tatsächlich keine Unzulänglichkeit einer KI, sondern in geschriebener Form ist diese Frage tatsächlich uneindeutig, weil es aus Sicht des Computer tatsächlich einen Unterschied zwischen “h” und “H” gibt. Und auch bei Programmiersprachen (also ohne KI) muss diese “Frage” sorgfältig gestellt werden, weil verschieden Handhabungen von Strings/Zeichenketten existieren.
In gesprochener Form, würde man die Unterscheidung zwischen Groß- und Kleinbuchstaben nicht explizit erwähnen, da gebe ich dir Recht, als geschriebene Fragestellung sollte dies durchaus trotzdem der Fall sein, eben weil es uneindeutig ist. (Und uneindeutige Quize/Rätsel sind Mist, weil beide /mehrere Antworten korrekt sein können, je nach Interpretation.)
Aber selbst ohne diese Spezifizierung, kann diese Frage “korrekt” gelöst werden.
Da hast du Recht, das GPT gerne mal falsche Antworten liefert. Das liegt aber auch durchaus an der Zufälligkeit, die intern in diesen Modellen verbaut ist. Zudem machen Menschen auch Fehler (“Irren ist menschlich.”) Un jetzt tatsächlich zu entscheiden, wie gut eine “KI” ist müsste man GPT 1000 mal diese gleiche Frage stellen, aber auch 1000 zufälligen Passanten in der Fußgängerzone. Weil da wird dir auch der ein oder andere “1” antworten auf die Frage nach der Anzahl der “h”'s in “Habicht”.