Agentic Browsing
Schon seit fast zwei Jahren – also so lange, wie der generative-AI-Boom selbst – gibt es Warnungen vor Angriffen auf KI-Systeme. Am prominentesten: Prompt Injections, aber auch andere Manipulationsformen. Parallel dazu haben wir eine differenzierte Sicht auf die Fehlleistungen von LLMs entwickelt: Wir wissen heute, dass sie halluzinieren, kein echtes Grounding besitzen und nicht verstehen, […]
Wie machen wir es der KI schwer?
LLMs sind eine mächtige Technologie. Sie können sehr viel – machen aber auch viele Fehler und liefern immer wieder falsche Informationen. Der Ursprung des Problems ist inzwischen hinlänglich bekannt. Sprachmodelle sind nun einmal statistische Modelle: Sie repräsentieren Sprache, nicht Fakten. Faktische Richtigkeit ist für sie nur ein Nebeneffekt statistischer Häufigkeit, ein Nebeneffekt, der durch viel […]
Die KI macht die kreative Arbeit, wir machen die stumpfsinnige
Kennen Sie das auch? Sie haben ChatGPT oder irgendeinen anderen LLM-basierten Chatbot beauftragt, Marketingtexte oder Produktbeschreibungen zu erstellen. Im Handumdrehen hat es – auf Basis von ein paar Stichworten – hundert Texte und Bilder generiert. Die sind auf den ersten Blick auch durchaus brauchbar. Aber wie kommen diese Inhalte jetzt in die Datenbank / auf […]
Wie teste ich eigentlich meine KI-Anwendung?
Die Entwicklung und der Einsatz von KI-Anwendungen, insbesondere solcher, die auf Large Language Models (LLMs) basieren, stellt uns vor völlig neue Herausforderungen beim Testing. Die gewohnten Methoden aus der traditionellen Softwareentwicklung greifen hier nur bedingt. Warum ist das so? Unterschiede zur traditionellen SW-Entwicklung In der klassischen Softwareentwicklung arbeiten wir mit einem limitierten Spektrum an Inputs. […]
Kommt der LLM-Winter?
In der KI-Welt häufen sich Meldungen über Verzögerungen und Probleme. Die großen Namen der Branche – Amazon, Meta, OpenAI, Apple – verschieben ihre ambitionierten Projekte. Ist das der Anfang vom Ende des KI-Booms? Ein genauerer Blick lohnt sich. Amazons ambitionierte Pläne für ein generatives KI-Upgrade von Alexa wurden wiederholt verschoben. Der Grund? Zuverlässigkeitsprobleme – selbst […]
KI-Potenzial: Können wir die Handbremse lösen?
Ein großer Teil der Unternehmen hat in den letzten Jahren mit KI-Techniken wie Large Language Models (LLMs) experimentiert, und die ersten Ergebnisse und Anwendungen sind da (siehe Quellen). Doch oft bleiben sie halbherzig. Es scheint als hätten die Firmen Angst, das volle Potenzial der KI auszuschöpfen. Warum ist das so, und wie können wir die […]
OpenAI verschiebt den Launch ihres AI-Agenten „Operator“ wegen Sicherheitsbedenken
OpenAI hat seine AI-Agenten-Lösung „Operator“ noch nicht freigegeben, obwohl Anthropic und Microsoft bereits entsprechende Funktionalitäten am Markt haben. Der Grund dafür ist die Verwundbarkeit der Agenten gegenüber sog. Prompt Injections, wie das Magazin „The Information“ berichtete. So kann es bei einem Agenten, der selbstständig Informationen im Internet sucht, beispielsweise dazu kommen, dass er sich auf […]
ChatGPT Search wird manipuliert
Eine der Hauptanwendungen von Large Language Models (LLMs) ist die Erschließung von Dokumenten, besonders verbreitet dabei die Suche nach Information im Web. Jetzt hat mit dem Guardian erstmals ein General-Interest-Medium prominent auf ein grundsätzliches Problem der LLMs in diesem Zusammenhang hingewiesen – sie sind sehr leicht zu manipulieren, u.a. durch die Texte, die sie für uns […]
LINK2AI beim GenAI-Tag der PwC Deutschland
PricewaterhouseCoopers Deutschland, eines der führenden Beratungsunternehmen im Bereich Generative KI ist überzeugt, dass KI vor allem vertrauenswürdig sein muss. Darum haben PwC Deutschland und LINK2AI eine Partnerschaft geschlossen. Sichere KI ist auch eines der Fokusthemen beim GenAI-Tag, den PwC für Partner, Kunden und Interessierte veranstaltet. An der Panel-Diskussion zum Thema „Entwicklung von Vertrauenswürdigen KI-Systemen“ wird […]
Der EU AI Act – wen soll er schützen und vor wem?
Der EU AI Act – wen soll er schützen und vor wem? Die aktuelle KI-Landschaft bietet enorme Möglichkeiten, es gibt aber auch zahlreiche Risiken, und auch mit denen müssen wir uns auseinandersetzen. Hier kann ein rechtlicher Rahmen wie der EU AI Act durchaus hilfreich sein. Risikopotenzial gibt es in vielen Bereichen: Nicht alle diese Risiken […]