非洲数据注释员时薪不到2美元,却要筛选大量负面内容以降低ChatGPT毒性 不如智能手环,“可佩戴ChatGPT”发售一周后差评如潮
非洲数据注释员时薪不到2美元,却要筛选大量负面内容以降低ChatGPT毒性 不如智能手环,“可佩戴ChatGPT”发售一周后差评如潮,
非洲数据注释员时薪不到2美元,却要筛选大量负面内容以降低ChatGPT毒性
最近,我一直在思考人工智能模型背后的人力资源消耗。
让人工智能聊天机器人用起来很智能,并生成更少有毒的废话的秘诀是使用了一种名为基于人类反馈的强化学习的技术,该技术利用人们的输入来改进模型的回答。
它依赖于一小群人工数据标注者,他们负责评估一串文本是否有意义,听起来是否流畅自然。他们将决定是把回答保存在人工智能模型的数据库中,还是将其删除。
即使是最令人印象深刻的人工智能聊天机器人,也需要数千个人类工时才能按照创作者希望的方式行事,即使这样,他们也无法可靠地做到这一点。这项工作可能是残酷和令人不安的,正如我们将在本周 ACM 公平、问责和透明度会议(FAccT,Fairness-Accountability- and Transparency)开始时听到的那样。这个大会,汇集了我喜欢的话题和研究,比如如何使人工智能系统更负责任和更合乎道德。
(来源:ANNA SOROKINA)
我期待的一个小组是由人工智能伦理先驱蒂姆尼特·格布鲁(Timnit Gebru)领导的,她在被解雇前曾共同领导谷歌的人工智能伦理部门。格布鲁讲述了埃塞俄比亚、厄立特里亚和肯尼亚的数据工作者,如何被利用去清除网上的仇恨信息和错误信息。例如,肯尼亚的数据注释员每小时的报酬不到 2 美元,他们要筛选大量关于暴力和性虐待的令人不安的内容,以降低 ChatGPT 的毒性。这些人现在正在加入工会,以获得更好的工作条件。
在 2022 年的《麻省理工科技评论》系列中,我们探讨了人工智能是如何创建一个新的殖民世界秩序的,而数据工作者首当其冲。随着 ChatGPT、Bing 和 Bard 等流行的人工智能聊天机器人以及 DALL-E 2 和 Stable Diffusion 等图像生成人工智能的兴起,揭露人工智能的剥削行为变得更加紧迫和重要。
数据注释员参与了人工智能开发的每个阶段,从训练模型到验证其输出,再到提供反馈,使模型在推出后能够进行微调。英国伦敦城市大学研究数据工作劳动实践的博士研究员斯拉维亚·昌迪拉莫乌里(Srravya Chandhiramowuli)说,他们经常被迫以惊人的速度工作,以满足更高的目标和紧迫的时限。
昌迪拉莫乌里说:“如果有人认为,你可以在没有人为干预的情况下建立这些大规模系统,那他是绝对错误的。”
人工智能模型需要大规模地做出决策,并且这些决策必须尽可能地成熟,而数据注释员为它们提供了重要的背景信息。
昌迪拉莫夫里告诉我一个案例,印度的一位数据注释员必须区分汽水瓶的图像和挑选出看起来像 Dr.Pepper(一种饮料)的图像。但后者并不在印度销售,数据注释者有责任弄清楚这一点。
昌迪拉莫乌里说,人们的期望是注释者找出对公司重要的价值观。她说:“他们不仅在学习这些对他们来说毫无意义的遥远的东西,他们还要弄清楚其它背景信息是什么,以及他们正在构建的系统的优先事项是什么。”
美国加州大学伯克利分校、加州大学戴维斯分校、明尼苏达大学和西北大学的研究人员在 FAccT 发表的一篇新论文中认为,事实上,无论我们是否意识到,我们都是大型科技公司的数据劳工。
文本和图像人工智能模型是使用从互联网上收集的巨大数据集进行训练的。这包括我们的个人数据和艺术家的版权作品,而我们创建的数据现已永远成为人工智能模型的一部分,而这些模型是为了让公司盈利而建立的。我们无意中通过将照片上传到公共网站、在 Reddit 上投票、在 reCAPTCHA 上标记图像或进行在线搜索来免费贡献我们的劳动。
目前,权力失衡严重偏向于世界上一些最大的科技公司。
要改变这一现状,我们只需要一场数据革命和监管。研究人员认为,人们重新控制自己在线生活的一种方法是倡导数据使用方式的透明度,并想出方法让人们有权提供反馈并分享数据使用的收入。
尽管这种数据劳动构成了现代人工智能的支柱,但数据工作在世界各地仍然长期被低估和忽视,注释者的工资仍然很低。
正如昌迪拉莫夫里所说:“人们绝对没有认识到数据工作的贡献。”
支持:Ren
运营/排版:何晨龙
发布于:北京
不如智能手环,“可佩戴ChatGPT”发售一周后差评如潮
作者丨博雯
编辑丨海腰
题图丨Humane
“AI时代的iPhone”被它的第一批用户骂惨了。
4月12日,硅谷备受瞩目的AI明星公司humane宣布,首款无屏幕可穿戴设备Ai Pin正式开售,面向美国市场,售价699美元,人民币5000出头。
但一周以来,随着科技媒体和发烧友们的测评一一出炉,这款产品却开始慢慢从“好评如潮”走向了“褒贬不一”。
甚至隐隐有差评如潮的趋势。
遥想去年,Ai Pin还仅存在于官网宣传视频时,就已被选为《时代》“2023年度最佳发明”之一。
在今年2月的MWC 2024(世界移动通信大会)上,humane员工将这个小玩意儿别在胸前,在手指翻飞间操纵设备进行交互,将投影打在手心上时,更是在国内外科技圈都狠狠出了一波风头。
但现在,一众海外科技媒体却齐刷刷给出了差评:
The Verge对Ai Pin的评分为4/10,称这玩意儿唯一能做的就是“报时间”;WIRED直言不讳“过于简陋,没多大用处”;CNET甚至都不愿意用上“测评”这种字眼,因为他们觉得这个产品还没有做完。
到底怎么了?
戴在衣服上的ChatGPT,出道前拉满期待
Ai Pin这个概念最早出现于2023年5月9日的TED公开演讲。
当时,已从苹果离职5年的创始人伊姆兰(Imran Chaudhri)指着戴在自己胸前的小巧设备说:
“你可以拿着一件物品,问它(Ai Pin)与之相关的问题,根本不用再在手机上乱搜一通……未来不会在你手中,更不会在你脸上。”
15分钟的演讲里,伊姆兰用详细阐述了他创造Ai Pin的目的:让硬件成为感知世界的另一双眼睛、另一个大脑,让整个体验是无屏的、无缝的、可感知的。
直白点说就是:AI驱动一切,干掉所有屏幕。
这次演讲共有超过300万人次观看,还被TED官方放入了《2023年最受欢迎的TED演讲》榜单。
当年11月,Humane发布了一段产品介绍视频,并表示,第一批产品将于2024年3月份开售。
通过演示视频,我们也对Ai Pin有了一个完整而系统的认知——
一手把握的火柴盒大小,没有屏幕,外壳仅由摄像头和触摸面板构成。
独立设备,不需要连接手机等外部设备,也不涉及任何App,直接接入互联网调用各种AI服务和工具。
可以通过语音、触摸板、手势、投影四种方式,随机开启一个话题一问一答、搜索特定信息、实时翻译佩戴者的发言,还能通过“眼睛”(摄像头)识别当前场景或物体,并进行进一步的描述和分析。
总之,就像一个可戴在衣服上的ChatGPT。
除了购买设备本身,Humane还与美国运营商T-Mobile合作,推出了每月24美元(约合173元)的订阅服务,以支持用户以无限流量畅享AI服务。
而在3月31日前购买Ai Pin的用户,可以获得3个月免费订阅服务,以及免费送货服务。
这并不是一个很低的定价,背后的订阅服务也在当时引起了一小波质疑。
没过多久,Humane宣布Ai Pin的首批发货时间将推迟到4月中旬。
当时有消息称,由于是需要再小巧机身内塞入语音、激光投影等功能组件的全新形态产品,Ai Pin存在着不小的量产难度。
发售之前,Ai Pin的最后一次露面是在2024年2月26日开幕的世界移动通信大会上。
在humane的展台上,工作人员统一穿着黑色卫衣,印着公司logo处别着Ai Pin,进行公开的演示、讲解。
有外媒称之为“零距离间接”,因为他们并不能直接上手试用,只能看现场工作人员的展示。
语音和触摸板倒还是其次,但当Ai Pin生成的内容通过绿色光线投射到用户的掌心,这些内容又跟随着工作人员掐指、握拳、旋转手掌的动作,实时地进行翻页、选择、确认之时,着实让人有一种“指尖拿捏信息”的未来感。
当然也不乏质疑,比如“取消第三方APP”这个饼实在是太大,比如线下演示里的延迟和发热问题。
但是,一次跳票,一次“零距离间接”,已经拉满了不少期待。
终于,第一批用户在4月12日之后,陆续将Ai Pin拿在了手里。
只是效果让人大跌眼镜。
不如智能手环
首当其冲的是那个当时看来无比惊艳的交互方式。
首先,Ai Pin能与手交互——但也只能与手交互。这就意味着你要么听语音播报,要么就只能在掌心投屏。
由于整个显示内容只有一掌之大,手势也就只能在特定范围内活动,因此,只要动作稍微大一点,或者不那么标准,就很容易误触或错选。
不少实测者都表示,要实现完美无缺的微操,还是有着不小的学习门槛。
而这么一整套结印下来,也让操作者怪尴尬的。
与手势交互密不可分的是那基于“激光墨水显示”技术的掌心投影——这就是Ai Pin被诟病的第二个主要功能,显示。
Ai Pin的掌心投影有几个特点:
第一,投影距离相对固定。
这意味着你必须尽可能保持身体和手掌的相对静止,在某个固定的位置一直举着手,才能获得最佳的显示效果。
如果中途手晃了,投影的内容也会跟着来回晃动。
第二,“自适应”。
简单来说就是手大的人,显示的内容就多,手小的人,显示的内容就少。Engadget的一位男性记者给了一个具体的数字:每次可以看到7行文本,一行1-3个单词。
如果遇到长文本,搭配那结印难度的手势操作系统,体验可以说是无比酸爽。
第三,“见光死”。
由于Ai Pin激光投影的亮度不足以击败太阳光,因此其显示功能无法在明亮的室外使用,有媒体还提到,纽约的阴雨天气也会让他看不清手上的投影。
“而在评测之前,Ai Pin只在TED Talk舞台、室内会议摊位等较暗的环境中公开演示过。”外媒ZDNET这样说。
第三,号称要做继智能手机之后的下一代AI硬件,但却并不够智能。
目前Ai Pin设备内置了GPT大模型、自研AI系统Cosmos、GPS系统。
Ai Pin没有屏幕,自然也没有满屏的应用程序,用户要依靠内置的GPT大模型、自研AI系统Cosmos、GPS系统,还有摄像头去去实时地感知世界,获取回答和执行命令。
如查询天气,推荐停车场、给好友拨打电话,获取旅行建议等等。
但在实际使用中,却并没有那么方便。
在AI基础功能上,Ai Pin仍在很多尝试性问题上回答错误,幻觉问题比较明显。
而在通过摄像头去识别物体时,也常常出现无法识别、识别错误,或者结合大模型幻觉的“胡言乱语”情况。
而由于Ai Pin的去屏幕化,用户也很难去验证答案的可信程度。
外媒Wired在测评中有这样一个例子:在识别一个不知名寺庙时,Google Lens则表示这是泰国的披耶那空洞,同时提供相应的实物图片,而Ai Pin则表示这是柬埔寨吴哥窟,却没有更直观的展示。
这一点在拍照上就更为明显,由于没有取景器,加之摄像头本身的功能,最后的成片就非常模糊。
最后,在响应速度、发热上,Ai Pin也遭到了不少吐槽。
很多测评提到Ai Pin对一个问题的反应速度是3-5秒,且频繁使用基础功能如询问、拍照、识别物体之后,很容易导致发热。
总而言之,Ai Pin确实提供了很多新鲜有趣的玩法,但并不够革命性,也不足以替代智能手机,甚至不如智能手环。
就像是外媒Verge说得那样:
“我并没有看到什么未来,但我确实看到了一个挺酷的小玩意儿——只是不要太认真。它只是一个小工具,而不是一种生活方式。”
团队高管发文内涵
事实上,在Ai Pin发售后的第二天,Humane官方账号就站出来了。
回应让人挑不出错:感谢测评者们的反馈、坦然设备还有进步空间,并给出了长长一串即将改进的功能清单。
比如,设备的第一版本“故意设置了保守的热限制”,因而系统对温度较为敏感,后续肯定会有所改善;比如今年夏季就会加入语音定时器、运动监测等功能;AI基础功能也会不断迭代……
图源:Humane官网
不过,Humane产品工程主管Ken Kocienda倒是发表长文,称AI的变化速度远远超几十年前在个人电脑上看到的水平,而他们在打造Ai Pin时就考虑到了这一历史视角。
他以自己制作第一代iPhone的自动校正键盘时的经历为例,表示自己当时也对触摸屏的概念存在相当大的疑问。
但随着时间流逝,大多数人都习惯了这种操作方法,键盘也就慢慢消失了。
而这种“消失”,也正是在Ai Pin上发生的事。
文章中间,老哥还暗戳戳地表示现在的社交媒体们太吹毛求疵,倾向于尖锐言论,而且越尖锐越好。
其实,媒体和网友们几乎是一边倒的差评,固然与Ai Pin本身的质量有关。
但很多测评中的遗憾和惋惜,又是因为背后的Humane团队在此之前实在是过于耀眼。
创始人伊姆兰在乔布斯回归时期加入了苹果团队,那是一个创意无限迸发的时代,伊姆兰参与了OS X的Aqua界面和iPad的设计,并且还是Multi Touch、滑动解锁的设计师,以及部分专利的拥有者。
在这段日子里,他还结识了自己最可靠的伙伴和爱人,iPad设计团队的软件工程总监贝瑟妮(Bethany Bongiorno)。
2016年,这对夫妇双双离开了苹果,创立了Humane。
伊姆兰在当时给苹果同事的邮件里提到,他觉得自己的灵感正在枯竭。
而在当时的很多苹果粉丝看来,伊姆兰的离开也仿佛是苹果的创新时代已经远去的一个象征。
可以说,这是一家自诞生起就起点更高的公司。
2023年,Ai Pin面向市场的首次亮相,正值智能手机热潮的低谷与AI热潮的交汇之时。
而引领这场AI热潮的OpenAI老板奥特曼,又正巧在Humane刚获得的1亿美元融资的投资队伍中。
2024年1月,Humane就又引入了一位高管,前苹果配件高级工程经理Greg Nayman任职担任电气工程主管,同时也进行了一番团队重组。
2月份,又宣布与韩国运营商SK Telecom达成战略合作,顺利进入非美国本土市场。
一时间,Humane可谓是风光无限。
然而,他们当前推出的产品,似乎还并无法回应创始人的野心。
就像是对于Ai Pin这个名字,创始人贝瑟妮解释的那样:
“Ai Pin的i没有大写, 这表明我们正处于人工智能的早期阶段。显然,Ai Pin还有很长的路要走。”
发布于:北京
- 为超市老板百万赔偿金,真有人偷偷去舔鸡蛋壳鸡屎... 疯了都... 糖尿病人必吃:鸡蛋和它一起煮,降低血糖预防眼病减少胰岛素抵抗
- 化浓妆戴项链?被骂上热搜的女运动员,在赛场上杀疯了! 59岁巩俐亮相w中文版封面!凸显好身材霸气佩戴3亿蛇形项链
- 晚安郑州 | 河南公布高考查分时间/橙色预警!今夏首轮高温来袭 郑州:一个传统企业的向“新”向“绿”密码
- 三大机会点、两条超车道,看服饰品牌如何轻松抢滩双11? 现货黄金再创新高 国内品牌黄金饰品单价突破790元|周大生|国际金价|历史高点
- 新华指数|2月份新华中盐食用盐(商超)价格指数月环比上涨7.90% 中盐是正规食用盐吗?睡前一把盐温阳散寒
- 波音裁员10%背后的真相:国产C919机会来了?_市场_竞争 A股市场牛气冲天 不敢追高买入?52只滞涨股值得关注
- 锚定现代化 改革再深化云南晋宁:一枝鲜花背后的科技力量 旧书可换鲜花、换咖啡!这类旧书很受欢迎
- 鹏程展途 龙耀中原丨ARCFOX极狐中心郑州鹏龙新亚店盛大开业 11月7日~11日 2024金刚石产业大会在郑州举行