Sie sind hier: Home » Markt » Hinweise & Tipps

Risiko für Wirtschaftlichkeit & Compliance


Wenn Intelligenz zur Gefahr wird – Warum Kontrolle bei KI wichtiger ist denn je
Ohne wirksame Kontrolle wird künstliche Intelligenz rasch zum Risikofaktor



Von Dr.-Ing. Christian Gilcher, CEO von embraceableAI

Die Begeisterung für KI-Modelle hält ungebrochen an – doch sie hat eine Schattenseite: Systeme wie GPT o3 und o4-mini werden zwar immer leistungsfähiger, halluzinieren aber immer häufiger. Bei Wissensfragen im sogenannten SimpleQA-Benchmark erreichen sie Fehlerquoten von bis zu 79 Prozent – ein alarmierender Wert, der selbst die Entwickler bei OpenAI ratlos zurücklässt.

Der Ansatz den inneren Monolog zu imitieren, könnte der Grund sein. Unsere Gedanken haben in unseren Köpfen Struktur, da wir nicht nur in Worten, sondern auch in Bildern & Zusammenhängen (Erfahrungen) denken. Diesen Prozess rein mit Worten abzubilden, lässt Lücken offen, die eine Wahrscheinlichkeitsabfolge in die falsche Richtung ableiten lassen. Die jetzigen Systeme zerlegen somit Probleme in vermeintlich logische Einzelschritte – mit dem Effekt, dass sie oft systematisch falsche Schlüsse ziehen.

Produktivitätsfalle KI
Besonders deutlich wird dieses Dilemma, wenn Unternehmen versuchen, solche Modelle produktiv zu skalieren – etwa über kollaborative Agentensysteme, die gemeinsam Geschäftsprozesse steuern sollen. Was auf dem Papier effizient klingt, endet in der Realität oft im Chaos: Intransparente Entscheidungswege, nicht reproduzierbare Ergebnisse und ein massives Risiko für Wirtschaftlichkeit und Compliance.

Kontrolle, wir brauchen Kontrolle
Was fehlt, ist Kontrolle. Europa braucht deshalb einen eigenständigen Ansatz: Bionic Reasoning kombiniert leistungsstarke, offene Sprachmodelle (wie Mistral oder LLaMA) mit einer eigenen Reasoning-Engine – einem logischen Steuerzentrum, das Fakten verknüpft, bewertet und deduktiv im Stile von Sherlock Holmes schlussfolgert. Dieser Prozess imitiert im Vergleich zu den US-Angeboten nicht den inneren Monolog, sondern die systematische, schrittweise Herleitung von Lösungsansätzen und die detaillierte Erklärung, wie man zu einzelnen Schlussfolgerungen innerhalb der Problemlösung gelangt ist - so wie ein Professor seinen Studenten eine Falllösung schildern würde.

Was ist vermeintliche Intelligenz wert, wenn es ihr an Verlässlichkeit mangelt? Ohne wirksame Kontrolle wird künstliche Intelligenz rasch zum Risikofaktor – insbesondere in sicherheitskritischen oder stark regulierten Bereichen. Intelligenz ohne Alignment ist nicht nur ineffizient, sondern in vielen Fällen schlicht unbrauchbar – oder sogar gefährlich.

Zwischen Hype und Verantwortung: Intelligenz braucht Kontrolle
Die Zukunft der KI liegt nicht in immer größeren und scheinbar intelligenteren Modellen – sondern in ihrer Beherrschbarkeit, Zuverlässigkeit und Kontrolle. Europa hat jetzt die Chance, eine eigene Antwort auf das Halluzinationsproblem moderner KI zu liefern – mit Systemen, die deduktiv, aber auch kontrollierbar denken. Nur durch die Verbindung von Leistungsfähigkeit und Steuerbarkeit kann digitale Arbeitskraft entstehen, die sicher, produktiv und souverän agieren kann. (embraceable Technology: ra)

eingetragen: 15.05.25

embraceable Technology: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Markt / Hinweise & Tipps

  • Compliance, die gelebt wird

    Trotz strikterer Cybersecurity- und Compliance-Vorgaben behandeln viele KMU die Dokumentation ihrer IT-Infrastruktur noch stiefmütterlich. Dabei birgt fehlende oder unvollständige Dokumentation das Risiko von ineffizientem Troubleshooting und teuren Fehlentscheidungen. Ohne verlässliche Informationen zu Netzstrukturen, Systemabhängigkeiten oder Rechten wird jeder Incident zur Blackbox.

  • Echtzeitüberweisungen gemäß IPR

    Zahlungsdienstleister stehen unter Druck: Bis Oktober dieses Jahres müssen sie die Verification of Payee (VOP) umgesetzt haben und die Versendung von Echtzeitüberweisungen (Instant Payments) möglich machen. NTT Data erklärt die größten Hürden - und wie sie bis zur Deadline überwunden werden können.

  • PCI-DSS und Sichtbarkeit

    Als anerkanntes Security Framework ist der Payment-Card-Industry-Data-Security-Standard (kurz: PCI-DSS) für Anbieter von Kreditkartentransaktionen ein absolutes Compliance-Muss. Tiho Saric, Senior Sales Director bei Gigamon, verrät, wie die Einhaltung des Sicherheitsstandards dank Netzwerksichtbarkeit zum Kinderspiel wird.

  • Resilienz kritischer Infrastrukturen stärken

    Mit dem neuen KRITIS-Dachgesetz steht die deutsche Wirtschaft vor einer sicherheitspolitischen Zäsur. Ziel des juristischen Rahmenwerks ist es, die Resilienz kritischer Infrastrukturen zu stärken - und das über alle Sektoren hinweg: von Energie, Wasser und Telekommunikation über Gesundheit und Ernährung bis hin zum Transportwesen. Neben Konzernen geraten nun zunehmend auch mittelständische Betreiber in den Fokus.

  • E-Mails mit geschäftskritischen Inhalten

    Unternehmen, die ein falsches Bild von der grundsätzlichen Aufbewahrung von E-Mails mit geschäftskritischen Inhalten haben, laufen Gefahr, gesetzliche Vorgaben der GoBD oder DSGVO zu missachten. Folglich müssen sie dann mit juristischen und finanziellen Konsequenzen rechnen. Umso erstaunlicher ist es, dass zahlreiche Unternehmen ihrem Schutz noch immer nur wenig Bedeutung beimessen.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen