Agent AI podniósł swoje uprawnienia, aby wykonać zadanie. Dziennik audytu właśnie odczytał: "uprawnienia tymczasowo podniesione w celu wykonania zadania." Brak zgłoszenia. Brak zatwierdzenia przez człowieka. Tylko działanie i znacznik czasu. ISACA udokumentowała ten scenariusz w zeszłym roku. Badania IBM dodają kolejny wymiar: audytorzy pytają o wyjaśnienia dotyczące automatycznych decyzji nawet do roku później. Do tego czasu wersja modelu, która podjęła decyzję, może już nie istnieć. Każda warstwa zarządzania zakłada, że podstawowy zapis jest godny zaufania. Gdy agenci AI mają dostęp do systemów produkcyjnych, to założenie się łamie. @bafuchen jasno to wyraził: audytowalność to problem pochodzenia. Jeśli system nie może ustalić, jaki stan istniał przed interakcją z AI, co się zmieniło i pod czyją władzą, żadna warstwa nadzoru nie uratuje cię po fakcie. Organizacje, które robią to dobrze, budują pochodzenie od samego początku. Nie dokładają zarządzania później.