O caos das imagens geradas por inteligência artificial
Imagens geradas por AI. Fico surpreendida quando observo certas reações. Há quem adore, há quem abomine. Isso eu entendo. Já não entendo que as pessoas olhem uma imagem, se emocionem com ela, mas que não se sintam defraudadas emocionalmente ao descobrirem que foi gerada por uma máquina. Comigo acontece ficar desiludida, desapontada. Fui enganada. Então a imagem em questão perde o apelo "emocional" o que não quer dizer que não possa, de forma objectiva, considerar que é um trunfo do ponto de vista criativo. Acredito que muito em breve todas as imagens geradas por inteligência artificial comecem a apresentar uma etiqueta, um sinal gerado de forma automática que permita, mesmo aos distraídos, perceberem que aquilo que parece uma fotografia, uma ilustração, um desenho, uma pintura, sim, isso mesmo, resulta de criação artificial. E isso é mesmo necessário?, perguntarão alguns. Sim, acho que sim.
Neste blogue já abordei o que são os modelos de inteligência artificial (IA) que geram imagens através de prompts, isto é, comandos de texto. A inteligência artificial está a revolucionar muitas áreas do conhecimento gerando impactos muitos diversos, bastante positivos, extraordinários. Sou uma entusiasta do seu uso, defendo o seu uso. Mas não estou a gostar de assistir a uma confusão crescente entre o que é real e artificial, sobretudo no espaço das redes sociais, longe de grupos ligados ao fenómeno AI, ou sites, onde todos estão por dentro do assunto, e com imagens despejadas aos montes, sem critério. Essas imagens criadas por algoritmos e não por humanos, assemelham-se à realidade, cada vez mais, sejam paisagens, pessoas ou animais, objectos. Um exemplo viral foi a imagem do Papa Francisco envergando um moderno casaco branco acolchoado e que se assemelhava muito a uma fotografia. Era uma imagem hiper-realista criada a partir de uma descrição textual. Se houve quem logo a identificasse como um produto artificial, outros não, assumindo, naturalmente, tratar-se de uma foto do Papa, pasmando que o Papa pudesse vestir assim, estranhando o recente interesse de Sua Santidade pela moda.
As imagens geradas por IA podem ser utilizadas para muitos fins, alguns lucrativos. O factor económico tem conduzido parte do entusiasmo qu geram. Há umas semanas recebi um ebook que continha imagens AI. Custaram menos ao autor do que se as tivesse comprado. Os dedos das mãos denunciavam a sua origem, mas era um pormenor subtil. Nem todos utilizam essas imagens de forma responsável, e alguns nem sequer de forma ética. São usadas como engodo para burlas. O aviso seguinte é um exemplo de muitos que se podem encontrar nas redes sociais. Em causa está a possibilidade de burlões online poderem usar as imagens geradas artificialmente para detectar pessoas crédulas, que acreditam em tudo o que veem sem questionar. A partir daí, a pessoa fica identificada como uma presa fácil, um alvo, alguém que facilmente pode ser burlada. Uma vez fui arrastada para um esquema de burla com relativa facilidade, mesmo considerando-me uma pessoa informada. Não envolveu imagens AI, mas serve de exemplo para alertar para a facilidade com que por vezes somos enrolados em esquemas prejudiciais online.
Uma maioria apenas as usa como forma divertida de passar o tempo mas até este uso está a gerar constrangimentos porque as imagens criam uma ilusão errada de realidade em quem as visualiza, geram confusão e acabam por contribuir para uma certa animosidade online. Não são, muitas vezes, identificadas como sendo artificiais, mesmo que os seus criadores - ou quem as partilha - não pretendam passá-las por genuínas. Esta confusão irritante vem somar-se à já forte contestação que muitos, sobretudo os artistas, movem a esta criação e partilha de imagens que carregam a infâmia de terem sido geradas por modelos que treinaram e "aprenderam" a partir de imagens não apenas do domínio público, mas também de artistas vivos que não deram o seu aval para o projecto AI e que não recebem qualquer compensação pelo seu uso. Os seus estilos próprios, que representam anos de estudo, investimento e esforços pessoais, foram apropriados pelos modelos e agora qualquer pessoa pode gerar imagens que copiam aqueles estilos artísticos.
Penso que quem está presente na internet tem de começar a desenvolver uma atitude mais questionadora em relação às imagens que vê e partilha.
Há muito tempo que decidi partilhar online apenas imagens cujo autor conseguisse determinar, embora consciente de que a maioria não quer realmente saber da autoria para nada. Neste momento o desafio é outro. É preciso examinar também se a imagem é gerada artificialmente ou não. Isso é relevante? Em alguns casos pode ser. Vou dar um exemplo. Faço parte de alguns grupos de fotógrafos que partilham fotografias de aves. Todos ficariam muito aborrecidos se eu lá partilhasse imagens de aves geradas artificialmente, quer com menção ou sem menção da sua origem AI. É assim tão difícil distinguir uma ave gerada artificialmente de uma captada pela objectiva do fotógrafo? Por vezes não é fácil. Mesmo eu, que vejo dezenas de fotografias de aves por semana, já fui enganada. Não conheço todas as aves, não é? Em alguns casos é evidente tratar-se de uma imagem gerada por IA pois a ave em questão apresenta irregularidades diversas, mas noutros nem por isso.
Como é que devemos proceder ao encontrarmos uma imagem que nos agradou e que vamos partilhar?
- podemos prestar atenção ao acto de partilha, pois uma partilha rápida, durante o scroll, no telemóvel, enquanto se fazem duas tarefas e meia, não permite o tempo necessário para averiguar a natureza do que se partilha
- podemos examinar os dados escritos que a acompanham, quando existam, procurar a indicação de que é uma imagem gerada por AI, ou, caso contrário, um nome de um autor, um designer, um ilustrador, o que pode indicar não tratar-se de uma imagem gerada por AI, embora estes também possam publicar imagens assim geradas
- podemos examinar a imagem para encontrar inconsistências na iluminação, nas sombras, na anatomia, no tamanho dos objectos presentes que por vezes não estão de acordo uns com os outros, na escala, na perspectiva, etc - podemos ainda fazer uma busca reversa no Google (na página de busca de imagens, procure e clique no botão de câmara e submeta a imagem que deseja conferir) que nos vai permitir localizar a origem da imagem, ou encontrar várias semelhantes, podendo alguma delas ter a menção de que foi criada com recurso ao AI
Mas é assim tão importante saber se a imagem foi gerada artificialmente antes de a partilhar?
Pode ser. Vou ilustrar esta situação com dois exemplos.
A imagem da ave com as duas crias, vista acima, evidentemente gerada por AI, foi partilhada numa página - ZF photography - que menciona no seu título a palavra "fotografia", o que deste logo induz que as imagens ali partilhadas sejam "fotografias". Depois segue-se a legenda: "Mãe maravilhosa", "Fantástica foto". Na apresentação refere-se a aves do mundo, apenas aves na Natureza, não em gaiolas, como tema. A partir daqui está montado o cenário da confusão. Já somos levados a pensar que estamos a ver fotografias.
Fui inspecionar a página. Tinha, quando escrevi este texto, 4,2 mil gostos e 42 mil seguidores. Indica-se que é pertença de um/a fotógrafo/a. Geograficamente ele/ela está no Baltistão, uma região de Caxemira, no Paquistão. Há lá um link para um site que não funciona, mas no Youtube vemos que partilha Reels com filmagens de aves reais, que não foram filmados por si. Tem ainda uma Comunidade com criações AI, aves coloridas, repleta de #, que classifica como "fotografia". Um outro link conduz a um perfil pessoal no FB: é de uma rapariga que começou a estudar na universidade em 2021. Na sua foto mostra-se de costas. Vejo que é seguida por muitos jovens. Não há ali nada que ver. Tem ainda uma conta no Instagram, privada. Obviamente que é no Facebook que tem obtido mais alcance, foi lá que encontrei a "mãe maravilhosa". Penso que é alguém que gosta da natureza, em particular de aves, e que descobriu o AI. Não sei se está a fazer alguma receita com a partilhas destas imagens mas não vi indícios de esquemas para extorquir dinheiro. É provável que ela esteja a partilhar as suas imagens na conta privada do Instagram também, tudo isto por pura diversão.
Vejam o print abaixo. As reações são muitas. Uma pessoa comenta a bravura da mãe e deseja que os filhotes não sejam apanhados pelo fogo. Esta pessoa parece não ter percebido que a imagem não é real pois expressa o seu temor pela vida das aves. Mas também pode ter percebido e estar a comentar desta forma porque a natureza artificial da imagem lhe é indiferente.
Eis uma amostra do tipo de imagens que ela/ele, a fotógrafo/a tem partilhado. As partilhas atingem números elevadíssimos. A galeria tem centenas de imagens AI. Algumas são facilmente identificadas como tal, pois possuem pormenores que assim as denunciam, outras nem por isso. O mundo das aves é vasto e a maioria das pessoas não consegue distinguir duas gaivotas ou duas andorinhas quanto mais reconhecer se uma ave colorida de aspecto exótico existe ou não, se é real ou uma criação AI. Eu própria nem sabia que existiam tantas variedades de gaivotas e andorinhas antes de me interessar pelo mundo das aves. Algumas das criações são quase perfeitas e eu própria tenho dificuldade em reconhecer que foram criadas por AI. Sem um exame cauteloso muita gente não irá perceber do que se trata. (E um dia, quando os modelos se aperfeiçoarem ainda mais, não irá ser possível, de todo, distinguir uma ave real de outra gerada por AI.)
A confusão é, como disse, grande. Observem agora dos dois casos seguintes, abaixo. Estas imagens não são fotografias, são ilustrações, provavelmente geradas por AI, mas acompanhadas por # que apontam para a sua qualidade fotográfica. Também não sabemos se é ela a autora das prompts, ou seja, se está a gerar as imagens ela mesma, ou se apenas está a retirar estas imagens das muitas galerias existentes na internet e a partilhá-las, mas inclino-me para esta hipótese.
(Note-se que este tipo de ilustração pode perfeitamente ser criada no Photoshop, ou em outros programas similares, ou com apps de pintura digital. Isso existe há muitos anos e os seus criadores são artistas digitais. São, neste caso, uma produção humana, tecnologicamente assistida.)
Por vezes o absurdo é tanto que indivíduo amante da Natureza e conhecedor, da fotografia ou da criação digital, enfim, qualquer artista, não ousaria publicar. Poderia uma ave ser tão tontinha que fizesse o ninho no meio da estrada? É um ninho andante! Notem as patas da ave! Ou foi alguém que abandodonou ali o ninho, de forma deliberada? Mas ninguém ajuda a pobre ave, ficam ali a tirar fotografias? Claro, a publicação poderia ser sempre feita para fins de paródia, evidenciando as limitações das criações AI. Mas a moça mete tudo no mesmo saco. Depois do título "Amazing Mother", "Awsome" photo, ela coloca ainda um bloco de # , para que não haja dúvidas:
#bestphotochallenge
#BestPhotographyChallengeio
#picturechallenge
#wildanimal
#animals
#photo
#challenge
#photographychallenge
#picture
#picoftheday
#photographers
#photoshoot
#photochallenge
Mas na mesma galeria também se encontram aves reais, - o que só ajuda ainda mais à confusão - fotos de aves reais, com a devida atribuição, e a legenda:
- Major Mitchell's cockatoo (Lophochroa leadbeateri)
.
- Photo by 
Tim Flach
Tim Flach- The Major Mitchell's cockatoo, also known as Leadbeater's cockatoo or the pink cockatoo, is a medium-sized cockatoo that inhabits arid and semi-arid inland areas of Australia, though it is seen regularly in other climates, for example, South-East Queensland's subtropical region.
No caso da imagem das aves ameaçadas pelo fogo, seguem-se os avisos por comentadores que reconhecem que estas imagens não são reais, aconselhando à sua denúnica como forma de desincentivar a partilhas de imagens AI sem a indicação da sua natureza:
Alguém atribui a confusão ao facto das pessoas terem muita idade e
não estarem a par desta tecnologia e gozam com isso:
Seguem-se avisos sobre a possibilidade destas fotos estarem a ser usadas para fins ilícitos, não apenas aas fotos mas a própria construção de toda a página:
Outros publicam comentários espirituosos como este:
A internet sempre teve as suas zonas de risco e esta é mais uma. Mas há algo que me intriga. As imagens destas aves obtêm partilhas elevadíssimas. Como é que isso acontece com imagens onde é possível identificar um conjunto de erros grosseiros, nem mesmo sendo preciso ser biólogo para o conseguir? Qual o significado de tantas manifestações: serão "Likes" ? Ou antes manifestações de surpresa e desagrado? A resposta: são manifestações positivas, de agrado: 214 mil Likes, 58 mil corações.
É possível identificar um conjunto de erros nesta imagem que devia ser designada como uma criação AI e não como fotografia. Porque razão recebe tantos Likes? E "corações"? Porque é tão partilhada? As pessoas gostam da imagem mesmo com as suas imperfeições? As pessoas não são capazes de identificar as imperfeições? As pessoas não se importam com as imperfeições? As pessoas não sabem o que é o AI? As pessoas não sabem como é um pássaro verdadeiro?
Vejamos. Onde está o ninho? Porque está a ave está em cima dos filhotes e eles em cima de um tronco? Quantos corpos de filhotes e cabeças existem na imagem? Nem todos temos de conhecer a forma como nidificam, a anatomia das aves, as suas variações de plumagem, de juvenis a adultos, o formato de bicos e de patas. Mas pessoas parecem não notar os erros, ou se notam, então não se importam. Como é que podem dar tantos Likes a uma imagem assim? Como podem partilhá-la tanto? O que explica isso? A ignorância bruta? A rapidez com que se faz scroll mimetizando o comportamento dos outros, partilhando de forma rápida e despreocupada, uma imagem, sem realmente ver o que se partilha? Que cegueira é esta? Ou, então, que fascínio é este?
As imagens podem ser criadas de muitas formas e eu sempre defendi que nas partilhas se dessem créditos aos autores, artistas e não artistas, fotógrafos consagrados ou não, mas isso é algo que para muitos é completamente indiferente. A internet chegou e a convicção de que tudo o que ali está é de todos e para todos vingou. Não é algo novo nem algo que incomode a maiora. Quando o Photoshop apareceu, a internet também foi inundada de imagens que pareciam uma coisa e eram outra. Elas espantavam quer pela aparência de verdade, quer pela aparência surreal! Fazia-se caça ao erro que o artista menos hábil tinha deixado escapar. Mas a velocidade a que surgiam era lenta pois os artistas não eram máquinas. E quase sempre eram identificadas pelo seu autor como produtos digitais, manipulações, e além disso devidamente abrangidas pelas leis de autoria. Também se verificaram casos de consequências mais graves, de fraude, como é óbvio.
Quando alguém recorre ao AI, gera estas imagens através da introdução de uma descrição do que pretende num modelo gerador que em segundos oferece várias possibilidades. Muitas destas pessoas intitulam-se artistas o que tem suscitado forte reação antagónica por parte dos tradicionais artistas gráficos, pintores, fotógrafos, etc. Acredito que muitas das pessoas que olham estas imagens nos telemóveis não saibam ainda da existência desta tecnologia, sejam jovens ou mais velhas, embora os mais velhos possam estar menos elucidados sobre o uso do AI. Outras, as que sabem, ou as que ficam a saber quando alertadas, parecem ter reacções diferentes quando são alertadas para a qualidade deste tipo de imagens. É que, como mostrei, nem todas as imagens são abominações. Algumas mostram aves (é apenas um exemplo entre os possíveis) mais ou menos coerentes e algumas, não sendo realistas são agradáveis à vista. Assim, há aquelas que ficam decepcionadas e que se sentem enganadas e há aquelas que desvalorizam a questão e que consideram mais relevante o valor do resultado do que o processo de criação, valorando a experiência de forma positiva. E também há as que se recusam a acreditar que foi um computador que gerou certas imagens e que continuam a acreditar que são uma fotografia. Há quem diga, desta ave, ser bonita demais para ser verdadeira, o que indicia, de facto, o pouco que as pessoas olham para as aves verdadeiras, seja em sites ou livros, seja no mundo real. Outras dizem que se parece com a ave verdadeira - mas que ave?- sentindo-se incomodadas por quem contesta a existência desta criação e lhes chama "estúpidas". Algumas depois de saberem que é AI e que lhes sejam notadas as imperfeições, insistem que é bela mesmo assim. Note-se, o entanto, que o mundo é um lugar vasto, haverá sempre uma larga margem para alguém ser ser enganado, para eu ser enganada, como até já fui. Ninguém sabe tudo sobre todas as coisas. Mas o que me espanta é que as pessoas não se importem de ser enganadas pelas imagens AI. Por isso eu defendo que, de alguma forma, estas imagens deviam sair dos geradores com um sinal qualquer que logo nos informasse que são AI. De outra forma está instalada uma desconcertante confusão visual!
A reação negativa perante a descoberta de uma imagem AI depende de vários pontos de vista: vem de quem defende como arte apenas um produto humano e que tem de ter o seu processo inteiramente controlado por aquele humano, embora com recurso a ferramentas tecnológicas. Se foram inseridos dados (um volume elevadíssimo de ilustrações, pinturas, desenhos, fotografias, etc, feitas pelos homens - numa máquina que, mediante uma espécie de pergunta formulada pelo utilizador, oferece uma resposta na forma de imagem - ou de texto, no caso do Chat GPT - isso não pode ser arte. Vem de quem defende que este tipo de imagens não passa de uma forma de plágio.
Mas a questão não é apenas perceber se a ilustração X ou a pintura Y gerada artificialmente pode ser arte ou não, ou se fere direitos autoriais ou não. Neste caso, e em muitos outros, soma-se uma questão que opõe o artificial ao que é real. A arte pode não abordar o real - uma pintura surreal de Dali, por exemplo - e nem por isso deixará de ser arte legítima. Mas neste caso, das aves, e noutros, - animais, monumentos, casas, veículos, lugares - o que estamos a fazer é criar um mundo imaginário paralelo que muitos tomam por realidade. Uma imagem que aparenta ser uma foto tirada por um fotógrafo e que mostra talvez uma ave vagamente aparentada com um cuco e seus filhotes, desvaloriza o trabalho do fotógrafo da Natureza, desvirtua a realidade, substituindo-a aos olhos de quem acredita que é real, por outra que é falsa, ou seja, estas imagens são uma fonte de desconhecimento.
Vou agora trazer aqui um segundo exemplo.
Dantes a existência de um autor protegia-nos da confusão pois os trabalhos eram apresentados como o resultado da visão desse autor, de alguém, com um nome, situado no tempo e espaço. A fotografia de uma casa tirada em Itália era acompanhada do nome do fotógrafo. Apesar disso, e porque muitos dos que partilhavam obras nas redes descuravam os créditos, nem sempre se conseguia fazer essa ligação, existindo muitas falsas atribuições. Um dos casos mais conhecidos é um fotograma de uma obra de uma iraniana que é partilhado na internet, pelo menos desde 2016, que eu saiba, como sendo uma fotografia de Henri Cartier Bresson tirada na Nazaré! Hoje a internet está cheia de casas italianas que não existem e que as pessoas julgam ter sido fotografadas por alguém em Itália, mas que foram geradas artificialmente.
A casa que podem ver na imagem está sendo partilhada como uma casa italiana, - ITÁLIA, era a legenda, - mas sem mais nenhuns dados sobre a sua exacta localização. É evidente que a imagem é fascinante e talvez seja isso que impede as pessoas de olharem mais atentamente os detalhes, a perspectiva. Não é imediatamente evidente que há um desacerto também porque o nosso olhar centra-se na enorme e bonita flor. São já 24 mil reacções e 25 mil partilhas, no momento em que escrevo.
Fiz algumas buscas na internet para confirmar que é artificial pois se afirmar que é AI há-de sempre haver quem me contradiga, até parecendo que as pessoas não gostam de saber a verdade. O que encontrei foram estas imagens que numa primeira impressão parecem ter sido colhidas numa localidade espanhola: Vejer de la Fronteira. Vejer de la Frontera é um dos vilarejos mais bonitos da Andaluzia. Tem casas pintadas de branco, uma tradição muito antiga que tem como finalidade combater o calor. Pertencem a uma conta de Instagram, mas eu não tenho Instagram, não posso ver mais, nem mostrar-vos mais. No entanto, existe outra forma de procurar a sua origem Se fossem casas reais elas decerto apareceriam em sites de viagens e turismo, bloggers de viagem e muito mais. Com a rapidez com que tudo hoje se propaga na internet era impossível que não aparecessem nesses sites que mencionam atrações turísticas. Essa seria uma forma de tirar a dúvida. Outra é procurar vídeos recentes de turistas no Youtube. Mas, se fizessem a busca por ITÁLIA talvez nunca encontrassem casas floridas.
Todavia, consegui ver isto:
À direita pode ler-se :
Encanto em Vejer de la Frontera. As icónicas casas Brancas Floridas lançam um feitiço intemporal sobre esta charmosa cidade espanhola.
Logo abaixo, é feito um pedido
às pessoas que partilhem estas imagens que foram geradas com AI com pessoas que gostassem de vê-las tornar-se uma realidade em Vejer de La Frontera.
A página chama-se Spain Explore and EuroExplores.
E é isto.
Multipliquem estes casos por números astronómicos.
Tirem as vossas conclusões.
Comentários