足够先进的技术有时类似魔法。在聊天框里向朋友推荐了洗牙器，下午你有可能在公号文章末尾看到关于它的广告;你告诫自己，上交论文的“死线”将至，只看10分钟短视频，却“一不小心”刷到手机没电;分手后，你明明已经删了前任的联系方式，却在App的好友推荐里发现了他的亲姐和发小，真是见鬼了。
我们看着手中的那块巴掌大的小家伙，以为是为我所用的工具，殊不知，这块芯片组成的壳子才是幕后魔术师，操控着我们的时间、情绪、行为和观点。
网飞(Netflix)最近新上了一部纪录片《智能陷阱》(The Social Dilemma)，请来推特的前高级副总工程师、消费者产品部长;脸书的投资人、前总经理、专门研究公司如何营利的总监;谷歌邮箱和硬盘的发明者;点“赞”的发明者……这些湾区大佬没有鼓吹技术带来的美好生活，相反，他们在反思技术是否会操控人，并导致成瘾。
每天早晨，手机跟着你进了厕所;每晚睡前，最后从你脸前消失的一道光属于手机屏幕。硅谷的大厂通常追求三个目标：一是用户的参与度目标，如何让你离不开App;二是增长目标，让你常打开并邀请朋友一起来;三是广告如何获得预期的效果。
许多最聪明的脑袋在设计算法，计算出该在页面展示什么，能让三个目标上涨。当你想要退出聊天的对话框时，“对方正在输入……”锁定了你;当你长时间没有打开脸书，一条“前女友有了新恋情”的推送召回了你;你阅读的速度、在图片停留的时间都被精准测量和记录，在你恰好阅读完一屏后的连接处，会减少广告投放。
社交软件非常清楚你内心的黑洞，它深入你的大脑，把你编程，让你无时无刻不想看看还有什么新东西。当朋友在网上圈出你时，人性会驱使你打开查看。发一条朋友圈，你就能享受帝王般的赞美。一位医学背景的专家说，我们有着基本的生物学欲望去和别人联系，社交激发多巴胺释放是几百万年的进化结果，这种快乐之源通常要靠半个小时以上的跑步才能获得，而在App上，一个赞就轻松解决了，这样迅捷的反馈令人着迷。
我们这些上瘾的小白鼠，给算法做养料，成为大数据中的一个字节。通过分析我们在网上留下的痕迹，App知道我们何时开心，何时低沉，是什么性格，有怎样的态度。拥有这些变量后，“我”成为模型，行为可以被预测，“我”倾向选择什么，App就喂给“我”什么。
我们正为免费使用App窃喜，却不知不觉用自己作为代价进行支付。纪录片中有句话：如果你没有花钱购买商品，那么你就是被卖的商品。我们像五花肉一样，构建起一个市场。你不再是特殊的个体，你的心理已被掌握，你已经无所遁形，你沦为工具。
更加可怕的是，App悄悄地、不被察觉地改变着我们的思维，改变“我”这个人。美国研究者发现，在社交页面上一个不起眼的标志，就可能影响中期选举的结果。
这些年，几乎每一个家长都跟孩子有场争夺手机和iPad的恶战。纪录片中有个统计数字，在美国，1996年之后出生的人抑郁和自杀的比例升高，拿到驾照的比例下降了，尤其是2009年社交媒体流行之后。虽然无法将二者建立科学的联系，但在一些个案中，我们已看到技术的背面。一个14岁英国女孩在网络上发布了自己的照片，很多人骂她长得丑，让她去死。后来这个女孩真的自杀了。还有臭名昭著的蓝鲸游戏，借由网络，向青少年传递着可怕的、关于自杀的煽动。
《柳叶刀-儿童与青少年健康》一篇文章调查了英国近1万名13岁至16岁的青少年，发现社交媒体的使用程度与心理压力的大小存在相关性，女孩受到的影响是男孩的两倍多。网络欺凌以及上网导致睡眠不足和体育活动减少，间接造成了这些伤害。
此外，已经有研究指出，在推特上，假新闻的传播比真相快6倍。2017年，美职篮全明星赛球员凯里·欧文在一档播客节目中说，自己相信地球是平的。“这不是什么阴谋论”。2016年，华盛顿一家披萨店正在庆祝开业10周年，突然在网络上遭到围攻，传言这里是全球性的拐卖儿童组织，把孩子当作性奴隶关在地下室。一时群情激愤的网友寻找各种证据，cheese pizza(奶酪披萨)的缩写cp被暗指是child porngraphy(儿童色情)。一位激进分子甚至来到店里，对上锁的壁橱开了枪。最终调查证实，哪有什么拐卖儿童组织，这里只有面粉和乳酪，连地下室都没有。
最近，信息茧房这个词很火，人们困在各自的语境里，无法与不同阶层、不同志趣的人沟通。社交软件让茧房更厚实，因为它只给你看你认同的东西。这也导致国外愈演愈烈的政治上的两极分化，政治分裂在过去20年来最明显。
相比之下，一个实属轻微的影响是，这些年整容医生发现了一种“图片分享畸形症”，年轻的患者想通过整容手术让自己更像滤镜里的自己。
好在人类正在觉醒，设计红迪网(Reddit)的技术人员写了一个程序来戒掉上它的瘾，欧盟《通用数据保护条例》被称作史上最严，对企业处罚力度空前。当你不知道在App上花了多少时间时，手机的软件计时会让你触目惊心。在避免被操控之前，人类开始挣扎。
过去这些年，技术带来革命性的变化。我们可以在一分钟内叫到出租车;也可以足不出户享受各国美食;我们与朋友的沟通变得便捷;科技发展、医疗健康、工业体系也借助互联网上了新台阶。只是新技术发展如此迅猛，人类大脑还没有完成与之适应的进化。当技术拥有了权力和影响力，就不能不好好谈谈责任。毕竟，谁想当个工具人呢。(杨杰)
