Hier ist Jessica. Hier ist etwas ganz anderes: Können Sie sagen, welche der Bilder im folgenden Raster KI-generiert sind, und erklären, warum?
Dieses Raster stammt aus einem Leitfaden zum Erkennen von KI-generierten Bildern verfasst von Negar Kamali, Karyn Nakamura, Angelos Chatzimparmpas, mir und Matt Groh. Der Leitfaden beschreibt verschiedene Kategorien von Artefakten, die in diesen Bildern häufig vorkommen, wie anatomische, funktionelle und soziokulturelle Unplausibilitäten und verschiedene Arten von stilistischen Artefakten (wachsartige Haut, filmisches Gefühl, zu dünnes Haar usw.).
Negar und Karyn haben viele Stunden damit verbracht, einige der Beispiele zu erstellen. Ihre Ergebnisse vermitteln einen Eindruck davon, was in Bezug auf Realismus und Ausdruckskraft möglich ist. Karyn hat beispielsweise das folgende Stilspektrum generiert, indem sie Modelle gemischt und spätere Schritte in Steady Diffusion aus einer Eingabeaufforderung und einem Seed neu generiert hat, wobei sie Pose-Kontrollnetze verwendet hat, um die Konsistenz zu wahren. Wenn Sie wissen, was Sie tun, können Sie ziemlich viel kontrollieren.
Ein einzigartiger Aspekt dieses speziellen Leitfadens ist, dass er auf den Ergebnissen groß angelegter Experimente zur Fähigkeit von Menschen basiert, KI-generierte Bilder in verschiedenen Dimensionen zu erkennen, die auf Matts Web site durchgeführt wurden. HierDas ultimative Ziel all dessen besteht darin, neue Interventionen und interaktive Instruments zu schaffen, die den Menschen helfen, Deepfakes in freier Wildbahn zu erkennen.
Dabei tauchen einige interessante Fragen aus der Sichtwissenschaft auf, beispielsweise welche Arten visueller Signaturen echte Bilder für Menschen actual erscheinen lassen. Da ich mit wenig Wissen darüber, worauf ich achten muss, in diese Zusammenarbeit eingestiegen bin, habe ich ein besseres Gespür dafür entwickelt, wie die Makellosigkeit und Einheitlichkeit, die man in Stockfoto-Retailers im Web findet, zu Modellergebnissen führen kann, die zu komponiert oder ordentlich erscheinen, selbst wenn es schwierig ist, auf bestimmte Artefakte hinzuweisen.