编辑【导(dǎo)读(dú)】生成式AI火(huǒ)了以后,限制输出内容的就只剩人们的(de)想象力(lì)了。这不,两个(gè)高中(zhōng)生(shēng)用(yòng)AI生成裸照,疯狂在道德的底线(xiàn)游(yóu)走。
生(shēng)成式AI爆(bào)火之后,人们发(fā)现,这AI还真的什么都能(néng)生成啊。
从ChatGPT生成语段和用户自(zì)如对话,到AI生成图像,再到搭载GPT-4的微软(ruǎn)全家(jiā)桶连ppt都能一键生成,好像没有什么东西是(shì)生成式AI做不到的了。
能是一(yī)方面,怎么加以(yǐ)利用变现(xiàn)又是另一码(mǎ)事了(le)。
这不,国外几个不知天高地(dì)厚的大学生(shēng),竟然用(yòng)AI生(shēng)成裸照(zhào)在Reddit上卖。
甚至还大赚了一笔(bǐ)。
AI卖「黄」?
图片的这(zhè)个姑娘(niáng)叫Claudia,她有着乌(wū)黑的长(zhǎng)发,甜美(měi)的(de)笑容。在社交媒体上,她会update自己的心情,觉得自己(jǐ)美美(měi)哒。
然(rán)而(ér)在(zài)Reddit上,只要你(nǐ)跟她私聊(liáo),她(tā)就卖(mài)你裸照。不得不说,在Reddit上她(tā)还(hái)挺火(huǒ)。可惜,Claudia是个假的。社交媒体上的(de)所有照(zhào)片,包括上面这张,全都(dōu)是(shì)用AI生成的。据两位合(hé)成媒体领域的研究人(rén)员说,这一组Claudia的照片(piàn)都是冲着坑(kēng)蒙拐骗去(qù)的。
总有(yǒu)人看不出(chū)这是(shì)AI,然后为(wèi)此买(mǎi)单。最近,像Midjourney和Stable Diffusion这(zhè)种能生(shēng)成图(tú)片(piàn)的AI发展非常快,他(tā)们所展现(xiàn)出的创造性备受瞩目。但在Claudia之前,绘图AI一般都是靠(kào)生成(chéng)一些逼真的艺(yì)术作品或者美丽的画作(zuò)夺人眼球。在Claudia之后,人(rén)们认识(shí)到用AI生成假(jiǎ)人的图片的功(gōng)能,还有(yǒu)这个(gè)让人意想不到的变现手段。
其(qí)实很多年(nián)以(yǐ)来,一部分新技术的发展(zhǎn)都(dōu)跟色情行业有那么一点关系,AI图像生成看来也没能免俗。目前,Reddit上有好几千个账(zhàng)户(hù)都在搞AI图像(xiàng)生成——而且大部分生成(chéng)的都是(shì)女性。带来的影(yǐng)响就是,改(gǎi)变了人们对于(yú)模特,和一部(bù)分演(yǎn)员的需求,同时加深了(le)人们对于物(wù)化(huà)女性这个议(yì)题的担忧。
有人匿名表示(shì),「反正也(yě)遇不到真人,就(jiù)算(suàn)不(bù)是AI生成的也遇不到真人,那她究竟(jìng)是真是假又怎(zěn)么样呢?」Claudia的账户并没有做出回应(yīng)。但是有两位大学生表示,自己(jǐ)是该账户的(de)管(guǎn)理者。在接受「滚石」杂志采访时表示,他们从Claudia这个账(zhàng)户挣了100美元(yuán)。研究(jiū)人员(yuán)继续出发,根据一些(xiē)AI图像生成器留下(xià)的蛛丝马(mǎ)迹,确定了几个女性用户的在线资料。他们判断,这些头像是AI生成的。
就像是Claudia的(de)账户一样,这些账户也(yě)在Instagram、Reddit、推特和OnlyFans等(děng)论坛上分享(xiǎng)女(nǚ)性的裸照,并标明(míng)付费(fèi)以(yǐ)解锁更多图(tú)片。研究人(rén)员(yuán)联系了(le)这些账户后这些账户没有对(duì)该(gāi)问什么的柳条填合适的词,什么的柳条填空题做出任何相关回应。由(yóu)于大(dà)部分(fēn)AI图像生成的时候并没有任(rèn)何水印,所以普通(tōng)用(yòng)户无法进行辨别。所以,有(yǒu)大(dà)量的用户(hù)被这些免费(fèi)图片吸引,给这些(xiē)账户留(liú)言。因(yīn)为(wèi),他们相信这些照(zhào)片(piàn)是(shì)真的(也许是因为(wèi)不在乎)。
为啥这(zhè)么(me)逼(bī)真(zhēn)?
AI生(shēng)成图(tú)像的原理其实(shí)并不(bù)复杂(zá)。
在整(zhěng)个过程中,AI会先生(shēng)成(chéng)一个较低(dī)分辨率的图像,然后慢慢增加细(xì)节和复杂度。神经网络有(yǒu)很多(duō)层,每一层神经(jīng)网络负责处理不同级(jí)别的(de)特(tè)征。从简单的边缘和纹理,再到复(fù)杂的(de)场景等等。各(gè)层神经网络(luò)之间互相连接,这样AI就可(kě)以(yǐ)将不同层次上的特征进(jìn)行(xíng)组合。比如,AI可能(néng)会先确定一个场景的大致布局的框(kuāng)架(jià),然后在这个(gè)基础(chǔ)上慢慢添加(jiā)其它物体(tǐ)或者(zhě)细节。在这(zhè)个过程中,AI根据(jù)prompt调整(zhěng)该部分(fēn)的(de)组合,以(yǐ)生成相(xiāng)关图像。目前(qián)很多AI生成器靠的是所谓的扩散模型(xíng)。任(rèn)何人都可以输入简短的prompt,然后免(miǎn)费得到一张足以(yǐ)以假乱(luàn)真的图片(piàn)。初次创建完还能进一步(bù)调教,让(ràng)照(zhào)片变得更有说服力。底线在哪(nǎ)里(lǐ)?
技术说完了,事儿本身说完了,就(jiù)该考(kǎo)虑一些(xiē)技(jì)术之外的东西了。
从(cóng)大往小说,技(jì)术应该(gāi)被这(zhè)么应用吗?人人(rén)都可以(yǐ)免(miǎn)费生成图片(piàn)拿来变现,今天是(shì)裸(luǒ)照(zhào),明天又会是什么?毕竟,无(wú)所不(bù)能的AI真的无所不能(néng),人们的想(xiǎng)象力和鬼点子可是(shì)越来越多。而缺少相关法律法规约束的话(huà),这(zhè)种行为只会(huì)越(yuè)来越多,并(bìng)且难以控制。Claudia的(de)管理(lǐ)者面(miàn)对(duì)媒体的诘问,只要轻飘飘的说上(shàng)一句(jù),我这是假的呀!就(jiù)能逃脱任何指控(kòng)了。再进一步,Claudia这个账户折(zhé)射出了女性所面临(lín)的一部分社会问(wèn)题。物(wù)化女性等词汇本身就屡(lǚ)次出现(xiàn)在人们的讨(tǎo)论之(zhī)中。小编认为,这种生成的裸照显(xiǎn)然是(shì)对(duì)女性的(de)冒犯,更不用说拿来传播(bō)得(dé)利了。相信AI的未来一(yī)定是利大(dà)于弊的,只什么的柳条填合适的词,什么的柳条填空不过在充满荆棘的道路(lù)上还是要(yào)谨慎前行。
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了