Neue Chips gegen Deepfakes

K¨¹nstliche Intelligenz (KI) macht es heute erschreckend einfach, Fotos, Videos und Tonaufnahmen zu manipulieren. Ob gef?lschte Statements von Politiker:innen oder irref¨¹hrende Bilder aus Krisengebieten ¨C soziale Medien und Online-Plattformen sind bereits voll von sogenannten Deepfakes. Die Folgen f¨¹r Gesellschaft und Demokratie sind gravierend: Immer mehr Menschen lassen sich von solchen F?lschungen t?uschen oder beginnen, selbst glaubw¨¹rdigen Quellen zu misstrauen. 

Forschende der ETH Z¨¹rich haben deshalb eine neue Sensortechnologie entwickelt, die genau hier ansetzt. Die Idee: Daten, Bilder oder Audiosignale werden direkt bei der Entstehung in einem Sensorchip kryptografisch signiert. Dank dieser Signatur l?sst sich nachweisen, dass die Daten tats?chlich von einer Kamera oder einem Aufnahmeger?t stammen, wann sie aufgenommen wurden und dass keine Manipulationen vorgenommen wurden. ?Wenn Daten bereits bei ihrer Erstellung signiert werden, hinterl?sst jede sp?tere Manipulation Spuren?, erkl?rt Fernando Cardes. Er ist wissenschaftlicher Mitarbeiter an der Professur f¨¹r Biosystems Engineering von Andreas Hierlemann im Department f¨¹r Biosysteme (BSSE) in Basel und hat die Technologie mitentwickelt. ?Um Daten zu manipulieren, m¨¹sste der Chip physisch angegriffen werden ¨C ein technischer Aufwand, der so hoch w?re, dass die massenhafte Herstellung manipulierter Inhalte f¨¹r Social-Media-Plattformen praktisch verunm?glicht wird.? 

Einfache Verifikation dank ?ffentlichem Register 

Die im Sensor erzeugten Signaturen k?nnten von den Kameraherstellern in einem f¨¹r alle zug?nglichen, unver?nderbaren Register (z.B. einer Blockchain) gespeichert werden. So liesse sich jederzeit unabh?ngig pr¨¹fen, ob die vorliegenden Daten echt sind: Jede Person kann die Signatur des Chips im Register mit den Originaldaten abgleichen und so deren Herkunft best?tigen. ?Damit spielt es kaum noch eine Rolle, ob eine an der Verarbeitung und ?bertragung der Daten beteiligte Person oder Technologie vertrauensw¨¹rdig ist?, erkl?rt Felix Franke, der den Chip an der ETH Z¨¹rich mitentwickelt hat und inzwischen Professor an der Universit?t Basel ist. ?Das Vertrauen in digitale Inhalte schwindet. Wir wollten eine Technologie entwickeln, mit der die Menschen ¨¹berpr¨¹fen k?nnen, ob etwas echt ist?, f¨¹gt er an. 

Die Technologie l?sst sich grunds?tzlich in jede Art von Sensor oder Kamera integrieren. Social-Media-Plattformen k?nnten k¨¹nftig bereits beim Hochladen automatisch pr¨¹fen, ob Inhalte echt sind. Und wo dies nicht passiert, k?nnten Journalist:innen, Forschende oder Beh?rden die Echtheit mit einfachen Tools selbst verifizieren. 

Gefahr von Deepfakes fr¨¹hzeitig erkannt 

Die Idee f¨¹r die Sensorchips entstand als Nebenprojekt am Bio Engineering Laboratory der ETH Z¨¹rich. Dort besch?ftigte man sich schon lange bevor KI-Systeme wie ChatGPT die ?ffentliche Diskussion dominierten mit der Entwicklung hochsensibler Sensoren zum Messen elektrischer Signale lebender Zellen. Die interdisziplin?re Gruppe verf¨¹gte auch ¨¹ber das n?tige Know-how, um zus?tzliche kryptografische Funktionen direkt in Sensorchips zu integrieren. ?Die Gefahr durch Deepfakes war absehbar?, erinnert sich Franke. Bereits 2017 sei daher der Plan entstanden, einen Sensor zu entwickeln, dessen Daten sich nicht unbemerkt manipulieren lassen. 

Der im publizierten Paper vorgestellte Chip ist ein funktionierender Prototyp und demonstriert die technische Machbarkeit. F¨¹r den kommerziellen Einsatz sind noch weitere Schritte n?tig. Die Forschenden sind dennoch ¨¹berzeugt, dass er sich mit heutigen technologischen Voraussetzungen und Verfahren zu einem funktionierenden und marktf?higen Produkt weiterentwickeln l?sst. Entsprechend haben sie einen Patentantrag eingereicht. ?Wir untersuchen derzeit, wie man den Aufwand f¨¹r Kamera- und Sensorhersteller senken kann, wenn sie die neue Technologie in ihre Chips integrieren wollen?, sagt Cardes. 

Die Arbeit wurde vom Schweizerischen Nationalfonds (SNF) und vom Staatssekretariat f¨¹r Bildung, Forschung und Innovation (SBFI) im Rahmen der SwissChips-Initiative finanziell unterst¨¹tzt.