编辑(jí)【导读】生(shēng)成(chéng)式AI火了以后，限(xiàn)制输出内容的就只(zhǐ)剩人们的想象力了。这不，两个高中生用(yòng)AI生成裸(luǒ)照，疯狂(kuáng)在道德的(de)底线游走。

生成式AI爆火(huǒ)之(zhī)后，人们发现(xiàn)，这(zhè)AI还(hái)真的什么都能(néng)生成(chéng)啊。

从ChatGPT生成语段和(hé)用户自如对话，到AI生成图像，再到搭载GPT-4的微软全(quán)家桶(tǒng)连ppt都(dōu)能一键生(shēng)成，好像没有什么(me)东(dōng)西是(shì)生成式AI做不到的了。

能(néng)是一方面(miàn)，怎么加以(yǐ)利用变(biàn)现又是另一码事了。

这(zhè)不，国外(wài)几个不知(zhī)天高(gāo)地厚(hòu)的(de)大学生，竟然用AI生(shēng)成(chéng)裸照在(zài)Reddit上卖。

甚(shèn)至(zhì)还大赚了一笔。

AI卖「黄」？

图片的(de)这个姑娘叫Claudia，她有着乌黑的长发，甜美(měi)的笑容。在社交(jiāo)媒体(tǐ)上(shàng)，她会update自己的(de)心情，觉得自己美美哒。

然而在Reddit上，只要(yào)你跟她私聊，她(tā)就(jiù)卖你裸照。不得(dé)不(bù)说，在Reddit上她还挺火(huǒ)。可惜，Claudia是(shì)个假的。社交媒体上的所有照片，包括(kuò)上面这张，全都(dōu)是用AI生成的。据两(liǎng)位(wèi)合成媒体(tǐ)领(lǐng)域的研究(jiū)人员说，这一组Claudia的照片都是冲着坑蒙(méng)拐骗(piàn)去的。

总有人看不出(chū)这是AI，然(rán)后为此买单(dān)。最近，像(xiàng)Midjourney和(hé)Stable Diffusion这种能生成图(tú)片的(de)AI发展(zhǎn)非常快，他们(men)所展现出(chū)的创造性备受(shòu)瞩目。但(dàn)在Claudia之(zhī)前，绘图AI一(yī)般都是靠(kào)生成一些逼真的艺术作品(pǐn)或(huò)者(zhě)美丽的画作夺人眼球。在Claudia之(zhī)后，人们认识到用AI生成假(jiǎ)人的图片的功(gōng)能，还有(yǒu)这个让人意想不(bù)到的变现手(shǒu)段(duàn)。

其(qí)实很多年以来，一部(bù)分新技术的发展都跟色情行(xíng)业有那么一点关系，AI图(tú)像生(shēng)成看来也没(méi)能免俗。目前，Reddit上有好几千个账户都在搞(gǎo)AI图像生(shēng)成——而且大部分生(shēng)成的都是女性。带来的(de)影响就是，改变了(le)人们对于模特，和一部分演员(yuán)的需求，同时加深了(le)人们对于物化女(nǚ)性这个议题的担忧。

有人匿(nì)名表示，「反正(zhèng)也遇(yù)不到真(zhēn)人(rén)，就算不(bù)是(shì)AI生成(chéng)的也(yě)遇(yù)不到真人，那她究竟是(shì)真是(shì)假又怎么样呢(ne)？」Claudia的账户并(bìng)没(méi)有做(zuò)出回应。但是有两位大学生表示，自己(jǐ)是该(gāi)账户的管(guǎn)理者。在接受(shòu)「滚石」杂志采访时表示，他们从Claudia这个账(zhàng)户挣了100美元。研究人员(yuán)继续出发，根(gēn)据一些(xiē)AI图像生成器(qì)留(liú)下的蛛(zhū)丝马迹，确定了(le)几个女性(xìng)用户的在线资料。他们判断，这些头像是(shì)AI生成(chéng)的。

就像(xiàng)是Claudia的(de)账户一样(yàng)，这些账户也在(zài)Instagram、Reddit、推特(tè)和OnlyFans等论坛上分享女性的裸照，并(bìng)标明(míng)付费(fèi)以解锁(suǒ)更多图片。研究人(rén)员(yuán)联系了这(zhè)些账户后这些(xiē)账户没有(yǒu)对该问题做(zuò)出任何(hé)相关回(huí)应。由于大部(bù)分AI图像生成的时候并(bìng)没有任(rèn)何水印，所以(yǐ)普通用户(hù)无法进行辨别。所以，有大(dà)量的用户被(bèi)这些(xiē)免费图片吸引，给(gěi)这些账户留言。因(yīn)为(wèi)，他(tā)们相信(xìn)这些照(zhào)片是(shì)真(zhēn)的（也许(xǔ)是因为不在乎(hū)）。

为啥这么逼真？

AI生成图像(xiàng)的(de)原理其实并不复杂。

在(zài)整个过(guò)程中，AI会先生成一(yī)个较低分辨率的图像，然后慢慢增加细节和复杂度。神经网络有很(hěn)多层，每一(yī)层神经(jīng)网络(luò)负责处理(lǐ)不同级别的(de)特征。从简单(dān)的边缘(yuán)和纹(wén)理，再(zài)到复杂的场(chǎng)景(jǐng)等(děng)等。各层神(shén)经(jīng)网络之(zhī)间(jiān)互相连接，这样AI就可以将不(bù)同层(céng)次(cì)上(shàng)的特征(zhēng)进(jìn)行组合。比如(rú)，AI可(kě)能会先确定(dìng)一(yī)个场景(jǐng)的大致布局的框架，然后在这个(gè)基础上慢慢添加其它(tā)物体(tǐ)或(huò)者细节。在这个过程中，AI根(gēn)据(jù)prompt调整(zhěng)该(gāi)部分的组(zǔ)合，以生成(chéng)相关图像。目前很多AI生成(chéng)器靠的是(shì)所谓的扩(kuò)散模型。任何人都可以输入简短的prompt，然后免费得到(dào)一张足以以假乱真的(de)图片(piàn)。初次(cì)创建完还能进一步调教，让照片变(biàn)得(dé)更有(yǒu)说服力。底(dǐ)线在(zài)哪里？

技术说完了(le)，事儿本身说(shuō)完(wán)了，就(jiù)该考虑一(yī)些技术之外的东西了。

未经允许不得转载：太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司 雨水淋过的衣服晒干还能穿吗，雨水淋过的衣服晒干还能穿吗