他们开始设计评估工具的框架:首先,要求算法的开发者说明决策所依据的核心因素,比如成绩、品德、特长等;其次,说明这些因素的权重分配,以及为什么这样分配;最后,给出具体的决策过程,让每个人都能明白,自己的结果是怎么来的。
为了验证这个框架的可行性,他们找到了一家愿意合作的小型科技公司,用他们开发的一款简单的奖学金评定算法做实验。结果出人意料:当算法的决策逻辑被清晰地展示出来后,学生和家长的质疑声少了很多,甚至有人提出了改进建议,让算法变得更公平。
“这说明,透明化不仅能解决信任问题,还能让算法变得更好。”江哲看着实验报告,脸上露出了笑容,“现在的问题是,怎么让那些大公司也接受这套工具。”
三、企业的抵抗与妥协
当团队把“算法透明化评估工具”的方案摆在几家大型科技公司面前时,遭到了几乎一致的反对。
“这不可能!”某公司的技术总监直接把方案推了回来,“我们的算法是花了几千万研发出来的,公开决策逻辑,不等于把核心技术拱手让人吗?”
“而且,算法是不断迭代更新的,今天公开了,明天又变了,怎么跟上?”另一家公司的负责人补充道,“这会增加我们很大的成本。”
江哲早有准备。他拿出一份调查报告,上面显示:因为算法不透明,这家公司开发的信贷评估系统,被投诉存在“歧视性条款”,导致品牌形象受损,业务量下降了15%。“相比之下,那些愿意公开算法逻辑的公司,虽然短期内会增加一些成本,但赢得了用户的信任,长期来看是划算的。”
他又举了个例子:某电商平台公开了商品推荐算法的逻辑,说明为什么会给用户推荐这些商品,用户可以根据自己的喜好调整设置。结果,用户的满意度提升了20%,复购率也明显增加。