Adobe su come creare una piattaforma AI senza rubare il lavoro degli artisti

Questa settimana, Adobe ha annunciato la sua incursione nell’IA generativa con Adobe Firefly. Dai prompt di testo, può generare immagini, audio, video e altro. Ma forse la cosa più interessante è che Adobe è stata trasparente su ciò per cui Firefly è addestrato.

Adobe ha fatto il grande annuncio al suo vertice annuale a Las Vegas questa settimana, dicendo Firefly sarà disponibile Tramite Adobe Experience Cloud, Document Cloud, Creative Cloud ed Express.

Durante il keynote, la società ha rivelato che Firefly è stata addestrata in licenze aperte e contenuti di dominio pubblico, nonché immagini Adobe Stock.

Ha fatto molto per cercare di non utilizzare la proprietà intellettuale di artisti o creatori che non hanno dato il loro consenso. Questo è qualcosa che è stato un grosso problema nello spazio artistico creato dall’IA. App come Lensa hanno ricevuto molti contraccolpi su questa pratica.

È interessante notare che l’azienda sta anche cercando di consentire agli artisti di addestrare il sistema sul proprio lavoro in modo che possano creare rapidamente contenuti nel proprio stile. Ciò potrebbe, ovviamente, portare qualcuno ad addestrare l’IA a generare opere nello stile di un altro artista. Adobe ha riconosciuto che questo è qualcosa da esaminare.

Ma il rovescio della medaglia, Adobe ha anche dichiarato che in futuro esaminerà la possibilità di pagare i creatori che contribuiscono con il loro lavoro alla libreria Adobe Stock per la formazione.

“IL Alexandru Kostin, vicepresidente di Generative AI System e Sensei ML di Adobe, ha dichiarato in un’intervista a Azienda intelligente.

“Tutte le cose che vengono raschiate via non le tocchiamo perché ci interessa davvero. Questi sono i nostri clienti… non vogliamo influenzarli in modo negativo.”

Secondo Costin, Adobe Stock ha 300 milioni di risorse da cui attingere, ognuna delle quali viene esaminata da curatori umani per l’approvazione e per garantire che nessun contenuto di marca venga aggiunto alla libreria.

“in modo da Nuove cose che introduciamo, di pubblico dominio dai musei, ecc., stiamo costruendo sistemi di filtri per assicurarci che tutto ciò che creiamo venga confrontato con alcune di queste preoccupazioni”.

Oltre alla proprietà intellettuale e ai contenuti registrati, questo sistema controllerà anche i contenuti pornografici.

“Questo ci dà la certezza che il modello non solo sarà di alta qualità, ma ridurrà il rischio di creazione involontaria di contenuti registrati o protetti da copyright”.

Adobe sta inoltre espandendo la sua Content Originality Initiative che aggiunge una firma crittografica all’interno di un contenuto per tenere traccia di eventuali modifiche e garantire l’autenticità.

Qualsiasi cosa creata da Firefly verrà ora contrassegnata anche come contenuto generato dall’intelligenza artificiale in modo che gli utenti possano prendere decisioni informate sull’uso di tale risorsa.

“UNQuindi, nella stessa ottica, abbiamo annunciato un tag “Don’t Practice” che manterrà all’interno del contenuto un pezzo di metadati che include un artista che dichiara se sono d’accordo o meno con altre società che provano il loro contenuto”, ha detto Costin.

Limitazioni e bug sono stati uno dei maggiori problemi che l’IA ha affrontato rapidamente. Secondo Costin, Adobe utilizza un feedback interno rigoroso e rigoroso per Firefly per garantire che funzioni bene e non cada nelle stereotipate trappole dell’IA generativa.

“Costruiamo anche rilevatori per assicurarci di intercettare i bias e quindi cambiare il router per ridurre i bias, ha affermato Costin.

“Se inserisci “lavastoviglie” o “infermiera” semplicemente non ottieni quello che ti aspetteresti da uno stereotipo. Ottieni tonalità della pelle diverse, età diverse, generi diversi, perché è proprio così che dovrebbe essere. Non dobbiamo perpetuare stereotipi dannosi”.

Costin ha anche riconosciuto che questo sarà un viaggio continuo per Firefly.

Questi modelli sono grandi, hanno personalità e imparano dai dati. Ci saranno aspetti che non possiamo controllare, praticare o testare. Questo è il motivo per cui abbiamo un incredibile meccanismo di feedback istantaneo con la comunità beta e il nostro staff”, ha affermato Costin.

“Abbiamo un team responsabile nella parte posteriore del sistema che prende tutto quel feedback e perfeziona continuamente gli algoritmi per assicurarsi che stiamo davvero continuando a eliminare quel pregiudizio”.

L’autore si è recato a Las Vegas come ospite di Adobe.