从“透明化”到“取中”,打开算法“黑箱”共需要几步?

如果有一天,对象真的是国家发的,会发生什么?

《黑镜》里就有这么一个故事:为降低离婚率,未来社会开发了一套系统,运用算法和大数据来做婚恋配对。这套系统规定了人们的试婚对象和相处时间,不停自动匹配,直到找到最完美的对象才会停止。

这个科技寓言,似乎正在日本上演:日本政府为了应对少子化,决定斥资20亿日元引进AI婚配系统。此前,日本埼玉县的试点称得上成果卓然:两年时间里撮合成功了69对情侣,其中一半是这个AI婚配系统选出来的[1]。

纵观全世界,“AI婚配”可以算是算法接管生活的一个缩影:人们起床靠微博/Twitter吃瓜,出行靠滴滴/Uber打车,吃饭靠外卖软件选餐,上班摸鱼则有国情差别,国外在Reddit上侃大山,国内上淘宝剁手。

你想要什么,你关心什么,背后自然是靠算法运转来决定,但调配生活方方面面的算法,过去一直处于“黑箱”:它吸纳数据、分析数据,推荐的逻辑却不为人所知,还常有匪夷所思的时候。比如说,都过了七年之痒,还推荐同城单身的空姐MM;我以为我是你的尊贵会员,没想到我只是大数据杀熟的韭菜。

这一切都在悄悄改变。近期,国内互联网公司率先打破了算法的“黑箱”。美团、微博、滴滴等平台陆续公布算法规则,也在尝试对现有算法做出改进,践行“算法取中”——在效率至上的算法模型里,加入人性的考量。

那么问题来了,

1. 为什么要揭开算法的黑箱?

2. 如何才是打开算法黑箱的正确姿势?

算法困境

算法第一次成为街头巷尾的热谈,离不开2016年那场惊心动魄的“人机大战”:当人工智能AlphaGo以4:1的成绩完胜顶级围棋手李世石,AI也被外界赋予了改变世界的想象。

自那以后,国内掀起了AI创业潮,算法也被逐渐应用于更多领域,人们的生活消费、城市的安防系统、机构的效率提升都离不开算法。但在提升社会运转效率的同时,算法也带来了一些隐忧。

在消费者端,熟客高定价,新客低定价的大数据版“杀熟”,屡见不鲜。原因在于,按照效率至上原则,已经养成消费习惯的老客无须让利,但新客还在不同平台之间摇摆,补贴可以促进成交。

在企业端,一些公司不仅用算法监督员工,更激进地赋予算法决定员工去留的权利。比如电商巨头亚马逊,在招聘、用工等环节十分依赖AI算法的管理。

亚马逊会用AI摄像头和可穿戴设备记录员工的工作表现,AI会追踪员工从货架上挑选和包装物品的速度和时间,并向表现不佳的员工提出解雇通知,整个过程不需要与主管会面,有近900人因“工作效率低”直接被AI解雇。

图为亚马逊用AI系统开除员工的报道
图为亚马逊用AI系统开除员工的报道

此外,算法还引发了有关社会偏见的讨论。例如,用AI筛选简历的亚马逊被批有性别偏见;《科学》杂志研究表明,美国用一套算法帮医院确认病人是否需要额外护理,这种算法对黑人群体存在偏见。

科幻电影习惯于把AI刻画成无所不能的形象,但事实证明,算法并不是万能的:算法一味追求准确和效率,却不考虑带来的各种影响。

皮尤研究中心曾在研究报告《算法时代的利弊》中指出,算法的编写主要是为了提升效率和盈利,并没有考虑相应的社会影响,缺乏对个体的考量。人类会被算法当做是过程的“输入量”,而非有思考、有感觉的生物[2]。

解决问题的第一步,是发现问题。由于平台不公布具体算法、规则和数据,利益受损者往往还很难为自己举证。

因此,全球不断有专家学者呼吁着算法“透明化”,即公开算法规则,使其接受社会监督;科技公司们也在透明化的路上不断摸索。然而,从算法的“黑箱”走向公开并不容易。

算法透明

2018年,Facebook的“泄密门”将扎克伯格送上了听证会。在两天持续10小时的听证会上,扎克伯格解释了平台是如何追踪用户行为并推荐广告的[3],但涉嫌“操纵选举”的指控仍然存在。

Facebook CEO扎克伯格出席听证会
Facebook CEO扎克伯格出席听证会

同年5月,欧盟《一般数据保护条例》正式施行,该法规对商业平台收集用户信息予以约束,让消费者有权了解个人数据是如何被平台收集、处理和分析的。

次年,Facebook首次公布了信息流及推荐广告的算法规则,让用户了解为什么能看到这条推文或广告[4],海外巨头们纷纷开启了算法透明化的尝试。

让算法公开透明,是为了让外界了解算法的运行原理,在听取多方诉求后,才能做出改进优化。

但“透明化”的难题也随之而来。算法之所以被称为“黑箱”,是因为它由复杂的代码组成,一直在动态变化,很难被公众理解。更重要的是,商业公司将算法视为核心资产,全部公开无异于将过去的巨额投入拱手于人。如何公开,公开到什么程度,便成了一个问题。

实际上,算法“透明化”有两种途径:其一是程序代码的透明化;其二是算法原理的透明化。在实际操作中,公开算法原理比程序代码更为可行,这既能保护公司的知识产权,又容易让公众理解。

今年以来,美团、微博、滴滴在内的国内互联网公司也陆续公开了算法的运行原理。

5月,滴滴公开了司机端的抽成、以及面向司机派单的算法规则。滴滴表示,乘客为打车所付的费用中,79.1%构成了网约车司机的收入,10.9%给了乘客补贴优惠;剩下的企业经营成本(包括技术研发、线下运营等)占了6.9%,而平台的网约车业务净利润仅占3.1%。

滴滴还解释称,平台收取高抽成再补贴给司机和乘客,这种二次分配是为了激励司机“多劳多得”,方便乘客在高峰期和热点区域打车。

8月,微博公布了热搜榜单以及广告位的排序规则。微博指出,热搜词看的是综合热度,即搜索量、发博量、互动量、阅读量等数据指标。

至于热搜中的两个广告位置,分别位于第3、第6位热搜词之下。其中商业广告会展示“商”标签。广告位不参与热搜排序竞争,也不会影响其它词的热度计算。

9月,美团外卖也首次公开了骑手配送时间的算法。美团指出,用户点餐时的“预估送达时间”并非是由“最近距离除以最快速度”,而是考虑骑手实际配送中存在的各种不确定因素。这意味着即便是相同路线的订单,每天给骑手和用户参考的配送时段也有所不同。

美团在预估送达时间上设置了多重保护,既有模型预估时间、也分别考虑了城市交通、配送距离、配送环节等多个维度下的配送情况。美团会从四种方案中选择最长的时间,作为订单页面显示的“预估到达时间”,这也给了骑手更人性化的配送节奏。

从“透明化”到“取中”,打开算法“黑箱”共需要几步?

不了解会产生误读,以前消费者往往会抱怨网约车平台派车难、骑手送餐慢,在了解司机、骑手群体的配送算法后,或许能增进一些理解。

算法透明化只是第一步,如何才能对算法的局限性做出改进?

算法取中

对此,国内创造性地提出了“算法取中”的概念。这意味着要在效率至上的算法里,加入人类社会的价值观和价值取向。

今年7月,包括市场监管总局在内的七部门联合发文保障外卖送餐员权益,要以“算法取中”替代“最严算法”,明确不能以“奥运冠军的水平作为普通人的考核标准”。

“算法取中”,是指要兼顾平台效率与劳动者保护,更要在企业利润和社会责任间做平衡。不过,“算法取中”目前仍是一个模糊的概念,难以定量。

上海人工智能研究院技术总监沈灏指出,这种情况通常要设置一个适当的阈值,再针对各个业务场景做大量调研,最终形成相对可量化的方案,有理有据地对企业算法做监管[5]。

“算法取中”既需要企业自我改进,也需要政府宏观调控,两方都进行了各自的“取中”尝试。

“算法取中”的第一个试验田在外卖配送。作为劳动密集型产业,骑手的安全保障问题已经引发全社会关注。

为保障骑手安全,美团率先对算法进行了“取中”改革。

为此,美团还组织了多场骑手恳谈会。通过了解骑手诉求和专家意见,美团率先将外卖的“预估送达时间”由“时间点”调整为“时间段”。这意味着面对配送过程中的各种不确定性,骑手有更弹性的时间段应对。

除此以外,将近75%的骑手还指出影响配送时间的两大难题——商家出餐速度慢、最后几百米交付难。

通过对超时订单和客诉订单做大数据分析,美团对“出餐慢”和“交付难”的重点场景进行“补时”。

例如,根据历史数据识别出长期出餐较慢的商家,相应骑手自动获得配送延时;一些小区管理严格不让电动车进入,或者个别用户预留地址错误等,相关订单也会自动延时。平台还用系统延时和人工补时给骑手上了“双保险”。

看似只是修改了代码,但想贯彻“算法取中”对平台来说绝非易事。

在美团平台上,每天有大量骑手奔波在大街小巷,有770万活跃商户开张迎客,更有6.3亿用户在平台上消费着吃穿住行。

在这庞大的系统中,任何改动往往是“牵一发动全身”,平台既要有魄力去推动改革,又要有能力平衡系统中商家、骑手和消费者三方的利益。

目前,美团的“算法取中”已经初具成效。在新算法机制下,骑手的配送时间更弹性,用户对送餐时间多了心理预期,试点数据显示用户对骑手的差评率降低了50.7%。

今年7月,浙江推出“浙江外卖在线”的数字化外卖监管系统,该系统集合了法务、商务和政务数据,能让企业的营业执照、食品经营许可证等商家资质信息在平台流通,也能将商家和骑手的服务视频直接作为存证。

自试运行以来,“浙江外卖在线”已纠正后厨问题5044个,处理违规商家184家,处理劳动纠纷2371件。

除了外卖巨头,内容消费平台也开始尝试“算法取中”。当社交平台成为新的公共舆论场,其算法推荐机制不仅要考虑平台利益、用户兴趣,更要考虑相应的社会影响。

海外社交巨头毫无节制的算法推荐已经引起担忧。像Facebook曾在自动推荐算法中推荐极端团体,社交巨头也曾被指通过呈现或隐藏某些内容来操纵言论,这都让内容平台的“算法取中”迫在眉睫。

国内的社交媒体微博,同样承担了公共舆论场的角色。为此,在公开热搜机制之余,微博还优化了算法推荐机制,将加大正向内容的宣推力度,调控负面事件、娱乐话题等。

微博还指出,上半年热搜将“减少娱乐占比”作为主要调控目标。热搜榜单的算法中包含了严格的排水军和反垃圾机制,能保证热搜榜单的客观。

在用户反馈、企业改进和政府调控的三方合力下,算法的“黑箱”里透进了光。

尾声

从电脑时代到手机时代,平台以前所未有的速度获得用户的海量数据,再通过数据的解构进行需求的匹配,围绕着用户的衣食住行。在这个过程中,一座座互联网商业大厦崛起。

但算法分发并非是把所有决策都交给机器,更需要平台和政府不断纠偏、设计、监督。在提升社会效率的同时,科技公司也开始承担起更多的社会责任,追求“科技向善”。

放眼人类历史,社会进步本身就伴随着透明化的进程。决策更透明,商业规则更透明、算法更透明,而一个越透明的社会,越能释放出更多可能性。

全文完。感谢您的耐心阅读。

参考资料:

[1] 日本准备推行AI婚配,年轻人会为“爱情算法”买单吗?钛媒体

[2] Code-Dependent:Pros and Cons of the Algorithm Age, Pew Research Center

[3] 两天鏖战10小时,扎克伯格“受审”到底意味着什么?,每日经济新闻

[4] Facebook 首次回应信息流排序方式,还可能为高质内容付费,好奇心日报

[5] “算法取中”监管:“阈值”最终应回到劳动力市场验证,澎湃新闻

(0)
小多多的头像小多多创始人

相关推荐

  • 10万余利宝一天收益(余利宝升级了后悔)

    各位网友们好,相信很多人对10万余利宝一天收益都不是特别的了解,因此呢,今天就来为大家分享下关于10万余利宝一天收益以及余利宝升级了后悔的问题知识,还望可以帮助大家,解决大家的一些困惑,下面一起来看看吧!

    2023年8月25日
  • 怎样用打印机打印文件

    打开需要打印的材料,然后打开’文件’,点击菜单里的打印,或直接点击上方的图标即可。第一步:将打印机连接至主机,打开打印机电源,通过主机的“控制面板”进入到“打印机和传真”文件夹,在空白处单击鼠标右键,选择“添加打印机”命令,打开添加打印机

    2024年3月6日
  • 西湖醋鱼是哪个地方的菜 西湖醋鱼是浙江菜

    【#西湖醋鱼是哪个地方的菜 西湖醋鱼是浙江菜#】1、西湖醋鱼是浙江菜。2、西湖醋鱼(West Lake Fish in Vinegar Gravy),别名为叔嫂传珍,宋嫂鱼,是浙江杭州饭店的一道传统地方风味名菜。3、西湖醋鱼通常选用草鱼作为

    2024年3月19日
  • goldwave是什么软件?(goldwave)

    你们好,最近小活发现有诸多的小伙伴们对于goldwave是什么软件?,goldwave这个问题都颇为感兴趣的,今天小活为大家梳理了下,一起往下看看吧。1、打开的程序界面如下,左边是音频处理的主界面,右边是彩色部分,是录音功能的主界面:2

    2023年9月7日
  • qq名字男生悲伤高冷

    1、温酒相随2、斯人☆★独憔悴°3、要怎么画出未来4、骄傲不羁//5、年的戒指6、七猫酒馆7、冷风8、再也不見叻9、擦身而过10、症患11、你的爱给了谁12、啪啪啪能量13、深情似狗14、心痒改不了信仰15、别挑

    2024年2月1日
  • 怎么样才能把快餐店做起来 有哪些用的到的技巧-财经

    开一家店其实很简单,但是怎么经营好算是很难的,那么怎么样,才能把快餐店做起来呢?这篇文章就跟大家聊聊这个话题。 门面、室内装修要吸引人,有些快餐店老板可能会觉得,不就是一个小小的快…

    创投 2022年1月25日
  • 宋芷依陆白屿小说叫什么 宋芷依陆白屿小说全文免费阅读

    宋芷依陆白屿是作者佚名热门小说里面的主角。这部小说可以说既有情节又有风格,非常优秀!一起来看看小说简介吧!距离高考还有55天。深城一中,晚自习结束。宋芷依抱紧笔记本,依恋望着视频上的心上人:“白屿,大家都放学回家了,你怎么突然叫我***室?天黑了,我有些害怕……”“怕什么,有我在,不会再有人霸凌你。”手机视频上,少年帅气矜贵,手腕处松松挽起的衬衫,由国际大师定制,价格五位数。“可是——”“乖,快来,我给你准备了盛大的生日惊喜。”

    2023年11月18日
  • 司情和战北霆的小说免费阅读战北霆全文免费阅读

    精选热书《司情和战北霆的小说免费阅读》由知名作者战北霆倾心创作的一本现代言情风格的小说,男女主角是战北霆司情,书中感情线一波三折,却又顺理成章,整体阅读体验非常不错。下面看精彩试读:她在说,可是他却没认真听,脑海里全是刚刚她低头沉思的模样,一会儿勾唇,一会儿蹙眉,一会儿咬咬两颗可爱的小虎牙,还会时不时捏捏有颗小红痣的耳垂。在得知她就是他的妻子之后,战北霆觉得这小丫头真是越看越顺眼,越看越可爱。她说,“战总,您的意见呢?”战北霆,“……”…

    2023年7月29日
  • 安徽医专是一本还是二本学校排名(安徽医学专科学校是大学吗)

    本文目录一览:1、安徽中医药是一本还是二本2、安徽医学院是一本还是二本3、安徽省二本院校排名榜4、安徽省较好的二本大学安徽中医药是一本还是二本年在安徽招生属于本科一批,而在其他省份属于本科二批。23年该院校在安徽招生属于本科一批,所以,

    2024年1月1日
  • 天玑处理器排行榜2023,哪些型号值得期待?

    本文目录一览天玑处理器排行榜2023如何选择天玑处理器?结语天玑处理器是联发科技公司推出的一款移动处理器,主要应用于智能手机、平板电脑等移动设备中。它采用了先进的制程工艺和架构设计,具备高性能、低功耗、稳定可靠等特点,受到了广大用户的欢

    2023年10月21日
  • 眼压高怎么办(常见的眼压调节方法)

    眼压高怎么办?眼压高是一种常见的眼部疾病,它常常被称为青光眼,是由于眼球内部的液体无法正常流动而导致的眼压升高,它会逐渐损害眼睛的视力,甚至导致失明。那么,当你被诊断出眼压高时,你应该怎么办呢?本文将详细介绍眼压高的症状、影响、治疗和预防

    资讯 2023年11月15日
  • 臻的意思和含义(臻的寓意是什么)

    各位网友们好,相信很多人对臻的意思和含义都不是特别的了解,因此呢,今天就来为大家分享下关于臻的意思和含义以及臻的寓意是什么的问题知识,还望可以帮助大家,解决大家的一些困惑,下面一起来看看吧!

    2023年7月3日
  • 白姓仙气名字女孩

    1、心钰2、宇平3、慕琴4、薇美5、灵雯6、凡卿7、玉华8、汐媱9、可慧10、亦觅11、疏宜12、和彦13、宛倩14、芷桃15、妮汐16、芳嘉17、宇纯18、芬莺19、芸晨20、玉拥21、蕾芳22、

    2024年3月26日
  • 免疫性血小板减少症(孩子免疫性血小板减少是怎么回事)

    免疫性血小板减少症免疫性血小板减少症又称免疫性血小板减少性紫癜,或者称为原发性血小板减少性紫癜,它是一种由于自身免疫因素攻击血小板导致的血小板下降,进而引起出血的疾病。对于免疫性血小板减少症,首选的治疗方法就是服用糖皮质激素,因为糖皮质激素

    资讯 2023年7月2日
  • 小龙虾到底抽不抽虾线

    小龙虾可以不用抽取虾线。小龙虾的虾线吃了对人体也不会有什么危害,虾线仅仅是虾的消化系统,里面主要是虾身体中还没消化吸收完的东西。而且小龙虾会经过高温烹饪,这个过程可以杀死细菌。小龙虾到底抽不抽虾线如果担心卫生健康安全要抽取虾线,可以将小龙虾

    资讯 2023年5月3日

发表回复

登录后才能评论