Microsoft hat mehrfach angekündigt, wie die Zukunft von Windows 11 und späteren Versionen des Betriebssystems aussehen wird. Wir sind auf dem Weg, mit KI zu arbeiten, die alles sehen und hören kann, was ein Computerbenutzer tut, sodass Maus und Tastatur für die Verwendung eines Laptops oder PCs so gut wie überflüssig werden. Allerdings hat eine derart umfassende Implementierung von KI auch Nachteile, die Microsoft bewusst sind.
Microsoft implementiert Schutzmaßnahmen für KI-Anforderungen
Copilot wird zu weiteren Windows 11-Funktionen hinzugefügt, wie der Suchleiste und Excel. Doch das ist noch nicht alles, denn es wird erwartet, dass KI-Agenten in verschiedenen Bereichen des Betriebssystems aktiv sind. Dadurch entstehen bestimmte Probleme, die dem Unternehmen bekannt sind und direkt auf der Support-Seite von Microsoft angegeben werden:
KI-Modelle unterliegen hinsichtlich ihres Verhaltens immer noch funktionellen Einschränkungen und können gelegentlich halluzinieren und unerwartete Ergebnisse erzeugen. Darüber hinaus bringen Agenten-KI-Anwendungen neuartige Sicherheitsrisiken mit sich, wie etwa Cross-Prompt-Injection (XPIA).
Bei der von Microsoft erwähnten Cross-Prompt-Injection handelt es sich um eine neue Kategorie von Bedrohungen, die darauf abzielen, künstliche Intelligenz in die Irre zu führen. Der Angreifer kann schädliche Dinge in Schnittstellenelemente oder Dokumente einschleusen und die KI dazu verleiten, Dinge zu tun, die sie nicht tun sollte. Dabei kann es sich beispielsweise um Datendiebstahl oder die Installation schädlicher Software handeln.
Um dies zu verhindern, hat Microsoft Agent Workspace eingeführt, eine isolierte Umgebung für KI-Agenten. Der Benutzer kann über sein Konto darauf zugreifen und die darin enthaltene KI verfügt über ihre eigene Arbeitsweise und Berechtigungen. Auf diese Weise hat die KI nur Zugriff auf bestimmte Ordner und der Pfad zu sensiblen Bereichen des Betriebssystems wird vollständig blockiert.
Agent Workspace befindet sich derzeit in der Testphase und ist als experimentelle Funktion optional. Benutzer können Konten für KI-Agenten einrichten und dedizierte Arbeitsbereiche für sie erstellen. Die KI benötigt möglicherweise Zugriff auf die sechs am häufigsten verwendeten Ordner: Dokumente, Downloads, Desktop, Musik, Bilder und Videos.