The images of Spain’s floods weren’t created by AI. The trouble is, people think they were | John Naughton
The images of Spain’s floods weren’t created by AI. The trouble is, people think they were | John Naughton
yayınlandı
0
Bu içerik, Charles Arthur’un Substack bülteni Social Warming’deki son baskıda dikkatimi çeken etkileyici bir fotoğrafa odaklanıyor. Fotoğraf, İspanya’nın Valencia bölgesini vuran “yağmur bombası” felaketinin ardından dar bir sokakta çekilmiş. Bir yılın yağmur miktarı bir günde düşmüş ve bazı kasabalarda sekiz saatte metrekare başına 490 litreden fazla yağmur yağmış. Su çok ağırdır, bu nedenle eğim varsa, ağırlıkla aşağıya doğru akar ve ağır bir SUV gibi kaldırabilir ve oyuncağı gibi savurabilir. Ve dar bir şehir sokak boyunca kanalize olursa, park edilmiş arabaları King Kong gibi etrafa saçar.
Arthur’un makalesindeki fotoğraf, belirli bir sokakta neler olduğunu gösteriyordu. Bir binanın üst katından telefoto lensle çekilmiş, kaotik ve neredeyse gerçeküstü bir sahneyi gösteren: sokak boyunca çılgın açılarda dağılmış ve karışmış 70’ten fazla araç.
Bu şaşırtıcı bir görüntüydü ve beni gerçekten durduran bir etki yaratmıştı. Şaşırtıcı olmayan bir şekilde, sosyal medyada da viral oldu. Ve sonra tepki geldi: “AI görüntüsü, sahte haber.” Fotoğraf çok canlı, çok tuhaf derecede keskin ve gerçek dışıydı ki, izleyicilere Midjourney veya Dall-E gibi generatif AI araçlarını kullanarak kendilerinin de yapabileceği bir şey gibi geldi.
Ancak Arthur, bir dedektiflik çalışması olan güzel bir işte – fotoğraftaki bir bara Facebook’u kullanarak ulaşarak, sokakta Apple Haritalar’da bulunarak ve Street View’u kullanarak “yürüyerek” oradan geçerek fotoğrafın sahte olmadığını belirledi. “Özellikle bu insanların neden bu fotoğrafın gerçek olmadığını düşündüğü açık değil”, diye yazıyor. “Belki arabaların parlaklığı ve şekillerin garip yuvarlaklığı ve belki de açık hasarın eksikliği hakkında bir şeydir.” Ya da belki de AI tarafından üretilen sahtekarlıkların artması insanları gerçek olan şeylere inanmamaya daha eğilimli hale mi getiriyor?
Benim tahminim, bu sonuncusudur, çünkü sosyal medya, “AI slop” olarak bilinen generatif AI araçları kullanılarak oluşturulan görüntü ve metinler tarafından ele geçirilmektedir. (Amazon’un Kindle mağazasının AI tarafından üretilen “kitaplar” ile benzer sorunları olduğu biliniyor, ancak bu farklı bir hikaye.)
Sosyal medya şirketlerinin platformlarındaki bu çöplük dalgasından rahatsız olacaklarını düşünürdünüz. Tekrar düşünün. Teknoloji haber sitesi 404 Media’nın Jason Koebler’e göre, son derece AI hakkında olan son birçok mali rapor toplantısında, Meta’nın CEO’su Mark Zuckerberg, yeni, AI tarafından oluşturulan yayınların Facebook ve diğer Meta platformlarına geleceğini söyledi. Zuckerberg, “AI’nın insanların sadece insanların akış deneyimlerini daha iyi hale getiren içerikler oluşturmalarına yardım etme fırsatından heyecan duyduğunu” söyledi.
Konusuna sıcak bakarak, Zuck devam etti: “Sanırım yeni bir içerik kategorisi ekleyeceğiz, yani AI tarafından oluşturulan veya özetlenen içerik veya bir şekilde AI tarafından bir araya getirilen mevcut içerik. Ve bunun, Facebook, Instagram ve belki de Threads veya başka bir akış deneyimi için zaman içinde sadece çok heyecan verici olacağını düşünüyorum.”
Bu, bir bakıma mükemmel bir anlam ifade eder: Meta’nın karı, kullanıcılarını platformlarında “meşgul” tutmaya bağlıdır – yani, mümkün olduğunca çok zaman harcamalarını sağlamaya – ve AI slop bu hedefe ulaşmaya yardımcı olursa, sorun ne?
Tedarik tarafında, AI tarafından üretilen şeylerin bunu yaratanlar için de karlı olduğu ortaya çıktı. Koebler, sosyal medyanın bu karanlık karnını keşfetmek için bir yıl harcadı. Hindistan’da, online viraliteyi inceleyen analist Gyan Abhishek ile karşılaştı. Abhishek, gelir elde etmek için kullanılan şaşırtıcı bir görüntü gösterdi – yüzlerce böcek tarafından yenilen yaşlı bir adamın eğilmiş iskelet bir resmi.
“Hint izleyicisi çok duygusal,” Abhishek açıkladı. “Böyle fotoğrafları gördükten sonra, bunları ‘beğenir’, ‘yorumlar’ ve paylaşırlar. Bu yüzden siz de böyle bir sayfa oluşturmalı, fotoğraflar yüklemeli ve performans bonusu aracılığıyla para kazanmalısınız.” Ayrıca, viral görüntülerin yaratıcılarının 1.000 “beğeni” için 100 dolar kazanabileceğini iddia ediyor, bu en azından bu köşe yazarı için kolay para gibi geliyor.
Yani burada, AI slop yaratıcılarının sosyal medya platformlarının etkileşim algoritmalarını beslemekten kar elde ettiği güzel bir olumlu geri besleme döngüsü var, ki bu da viral görüntülerin çektiği artan “etkileşim” karşısında kar elde eden sosyal medya platformlarının kar elde etmesini sağlıyor. Ancak olumlu geri besleme döngülerinin sorunu, aşırı büyümeye ve sosyal medyanın sonuç olarak ne zaman “terminal olarak kötüleştiği” sorusuna yol açmalarıdır. İşte Meta ve diğerleri bu yöne gidiyorlar.
My eye was caught by a striking photograph in the most recent edition of Charles Arthur’s Substack newsletter Social Warming. It shows a narrow street in the aftermath of the “rain bomb” that devastated the region of Valencia in Spain. A year’s worth of rain fell in a single day, and in some towns more than 490 litres a square metre fell in eight hours. Water is very heavy, so if there’s a gradient it will flow downhill with the kind of force that can pick up a heavy SUV and toss it around like a toy. And if it channels down a narrow urban street, it will throw parked cars around like King Kong in a bad mood.
The photograph in Arthur’s article showed what had happened in a particular street. Taken with a telephoto lens from an upper storey of a building, it showed a chaotic and almost surreal scene: about 70 vehicles of all sizes jumbled up and scattered at crazy angles along the length of the street.
It was an astonishing image which really stopped me in my tracks. Not surprisingly, it also went viral on social media. And then came the reaction: “AI image, fake news.” The photograph was so vivid, so uncannily sharp and unreal, that it looked to viewers like something that they could have faked themselves using Midjourney or Dall-E or a host of other generative AI tools.
But it wasn’t fake, as Arthur established in a nice piece of detective work – tracking down a bar in the picture using Facebook, finding the street in Apple Maps and even “walking” down it using Street View. “It’s not obvious why these people thought that photo in particular wasn’t real”, he writes. “Perhaps it’s something about the sheen of the cars and the peculiar roundedness of the shapes, and maybe the lack of obvious damage”. Or is it that the proliferation of AI-generated fakes is already making people increasingly predisposed not to believe things that are real?
My hunch is that it’s the latter, because social media are being overrun by what has come to be known as “AI slop” – images and text created using generative AI tools. (Amazon’s Kindle store is having similar problems with AI-generated “books”, but that’s a different story.)
You’d have thought that the social media companies would be bothered by this tsunami of crap on their platforms. Think again. According to Jason Koebler of the tech news website 404 Media, in a recent quarterly earnings call that was overwhelmingly about AI, Meta’s chief executive, Mark Zuckerberg, said that new, AI-generated feeds were likely to come to Facebook and other Meta platforms. Zuckerberg said he was excited by the “opportunity for AI to help people create content that just makes people’s feed experiences better”.
Warming to his theme, Zuck continued: “I think we’re going to add a whole new category of content, which is AI-generated or AI-summarised content or kind of existing content pulled together by AI in some way. And I think that that’s going to be just very exciting for Facebook and Instagram and maybe Threads or other kind of feed experiences over time.”
Which makes perfect sense, in a way: Meta’s profits depend on keeping users of its platforms “engaged” – that is, spending as much time as possible on them – and if AI slop helps to achieve that goal, what’s the problem?
On the supply side, it turns out that AI-generated stuff is also profitable for those who create it. Koebler has spent a year exploring this dark underbelly of social media. In India, he ran into Gyan Abhishek, an analyst who studies online virality. Abhishek showed him a startling image being used to generate revenue – a picture of a skeletal elderly man hunched over while being eaten by hundreds of bugs.
“The Indian audience is very emotional,” Abhishek explained. “After seeing photos like this, they ‘like’, ‘comment’ and share them. So you too should create a page like this, upload photos and make money through performance bonus.” He also claims that creators of viral images can earn $100 for 1,000 “likes”, which sounds like money for jam, at least to this columnist.
So what we have here is a nice positive feedback loop in which creators of AI slop profit from feeding the engagement algorithms of social media platforms, which in turn profit from the increasing “engagement” that viral images attract. The trouble with positive feedback loops, though, is that they give rise to runaway growth, and to the question of what happens to social media when they become terminally enshittified as a result. Which is where Meta and co are headed.
How fragile is autocracy? A sobering assessment of Trump’s victory and America – What the future looks like from here – by Prof Dave Karpf of George Washington University.
Click here for more An insightful essay by Jason Kottke about the art of writing for the web, and the power hyperlinks have to intensify an argument.
The Musk effect Machiavellis of theMarket – a timely essay on the outsize power of entrepreneurs by Alex Gourevitch.
The images of Spain’s floods weren’t created by AI. The trouble is, people think they were | John Naughton
Yorumlar kapalı.