Während sich KI rasant in globale Finanz-, Bildungs-, Gesundheits- und Regierungssysteme integriert, stellt sich eine grundlegende Frage: Können wir KI überhaupt vertrauen?
Eine Antwort darauf gab Anthony Cargill, Ecosystem Lead des Polyhedra Network, am 17. Juni 2025. Im Rahmen der Singapore AI Week – Asiens größter KI-Konferenz – hielt er auf der Fachkonferenz „Dezentralisierte Welt: Die revolutionäre Konvergenz von KI und Web3“ einen vielbeachteten Vortrag. Die von 1783DAO und BroadChain gemeinsam organisierte Veranstaltung stand unter dem Titel „KI + Web3: Die Zukunft und Perspektiven verifizierbarer Intelligenz“. Cargill erläuterte darin, warum „Verifiable Intelligence“ für das Technologie-Ökosystem der neuen Ära von zentraler Bedeutung ist.
KI muss nicht nur intelligent, sondern auch überprüfbar sein
„Wir übertragen KI-Systemen enorme Entscheidungsbefugnisse, doch diesen Systemen fehlt es an Transparenz und Überprüfbarkeit. Sie sind wie ein Stromnetz ohne Sicherungen, ein Code ohne Protokoll oder ein Rechtssystem ohne Berufungsinstanz.“ – Anthony Cargill
Cargill betonte, heutige KI-Systeme arbeiteten zwar, böten aber keine grundlegenden Sicherheitsgarantien oder Möglichkeiten, ihr Verhalten zu überprüfen. Statt blind zu vertrauen, brauche es „verifizierbares Vertrauen“ – andernfalls gäben wir die Verantwortung komplett aus der Hand.
„Delegation without verification ist gleichbedeutend mit Abdication – dem Verzicht auf Verantwortung“, so Cargill weiter. Dies stelle ein erhebliches Risiko für den gesellschaftlichen Betrieb dar.
Verifiable Intelligence: Kein Produkt, sondern eine Vertrauensinfrastruktur
Anders als konkrete ZKP-Modelle oder Produkte versteht Cargill „Verifiable Intelligence“ als ein neues soziales Betriebssystem. Sein Ziel ist es, uns die Fähigkeit und das Recht zu geben, jede Handlung einer KI bereits vor ihrer Ausführung zu verifizieren.
Auch wenn Polyhedras technische Basis auf Modulen wie zkML, zkBridge und zkPyTorch aufbaut, lag Cargills Fokus auf deren Bedeutung als Vertrauensinfrastruktur:
Vertrauen basiert nicht länger auf Marken oder Unternehmen, sondern auf Mathematik und kryptografischer Logik (Proof, not persuasion).
Es entsteht eine einheitliche Architektur für verifizierbare Berechnungen (Verifiable Computation), anwendbar auf KI, intelligente Agenten und sogar Blockchain-Governance-Systeme.
KI-Systeme erhalten einen transparenten Mechanismus zur Selbstbeschränkung.
Doch warum ist Web3 der entscheidende Baustein, um „verifizierbare Intelligenz“ zu realisieren?
Cargill wies darauf hin, dass zkML zwar auch außerhalb der Blockchain funktioniert, doch erst das Blockchain-Ökosystem folgende essentielle Elemente bereitstellt:
Anreiz- und Herausforderungsmechanismen auf der Blockchain (On-chain incentives & challenges)
Transparente Sicherheitsmechanismen und unveränderliche Prüfspuren
Von der Community getragene Governance-Systeme (Community-as-Governance)
Die Community dürfe nicht nur Zuschauer sein, betonte er, sondern müsse aktiver Teil des Governance-Mechanismus werden. In einer Zukunft, in der KI zunehmend wie ein undurchsichtiges „Black-Box-System“ agiert, seien Web3-Konsensmechanismen, Token-Modelle und die Open-Source-Kultur unsere wirksamsten Kontrollinstrumente.
„Menschlicher Konsens muss der Ausrichtung von KI-Modellen (Model Alignment) vorausgehen – andernfalls sind wir nur noch Ausführende der Algorithmen.“ – Anthony Cargill
Mehr als Technologie: Ein neuer Gesellschaftsvertrag
Cargill beschrieb „Verifiable Intelligence“ als Teil des „nächsten Gesellschaftsvertrags“. Vier Schlüsselbegriffe definieren dieses neue Paradigma:
Vertrauenswürdige Maschinen (Trustworthy Machines)
Transparente Systeme (Transparent Systems)
Vertrauen durch Mathematik, nicht durch Marken (Trust through math, not brands)
Beweis vor Überzeugung (Proof > Persuasion)
Zum Abschluss seiner Rede richtete Cargill eine offene Einladung an das Publikum: „Polyhedra baut eine verifizierbare Zukunft – doch diese Zukunft gehört keinem einzelnen Unternehmen. Sie gehört jedem Entwickler und Builder, der die Idee eines ‚Proof-of-Trust‘ teilt.“
Hintergrund zur Veranstaltung
Die Fachkonferenz „Dezentralisierte Welt: Die revolutionäre Konvergenz von KI und Web3“ wurde gemeinsam von 1783DAO und BroadChain organisiert. Als eine der meistbeachteten Nebenveranstaltungen der SuperAI 2025 – Asiens größter KI-Konferenz – war sie ausgebucht. Hunderte führende Experten aus aller Welt, darunter KI-Forscher, Web3-Gründer, Investoren und Akademiker, nahmen teil.
Die Veranstaltung wurde von Polyhedra Network, SeeGrowth und dem OGBC Innovation Hub mitgetragen. Mit ihrer starken Besetzung und zukunftsweisenden Themen bot sie tiefgehende Diskussionen zu Schlüsselthemen wie „KI-Agenten“, „Dezentrale Identität“, „ZKML (Zero-Knowledge Machine Learning)“, „RWA“ und „KI-gestützte On-Chain-Governance“.
Darüber hinaus erhielt die Konferenz breite Unterstützung von führenden Web3- und KI-Innovatoren wie Moledao, KITE AI, KIP Protocol, amber.ac, 0G Labs, OpenEden, LOOP SPACE, HF RealX, PayCrypto, CBB Smart Quantitative Robot, Singapore Uni DAO und der NUS FinTech Society. Dies unterstreicht, dass die Fusion von KI und Web3 zu einem zentralen technologischen und industriellen Trend geworden ist, der weltweit große Aufmerksamkeit auf sich zieht.