打开手机购物App，你有没有发现，同样一件商品，不同人看到的价格可能不一样？有时候朋友刚聊到某个话题，转头广告就推到了眼前。这些背后，往往藏着一个看不见的“黑箱”——闭源算法。
什么是闭源算法？
简单说，闭源算法就是代码不公开、逻辑不透明的程序规则。比如某社交平台的内容推荐系统，或者银行的贷款审批模型，外人看不到它怎么运作，只能看到结果。这种“我知道你在用，但我不知道你怎么用”的状态，正是争议的源头。
不公平从哪来？
想象一个求职场景：两家公司用同一套AI筛选简历。A公司能看到算法具体权重——学历占30%、经验占50%、关键词匹配占20%；B公司用的却是闭源系统，只告诉你“这个人不合适”，却不解释为什么。如果恰好女性或少数族裔总被筛掉，问题出在数据偏见还是规则设计？没人说得清。
现实案例并不少见。美国曾有法院使用闭源风险评估算法判断犯人再犯罪概率，结果发现对黑人被告更严苛。开发者声称“商业机密不能公开”，可司法公正容不得秘密公式说了算。
效率与信任的拉锯
企业喜欢闭源，因为它保护知识产权。开发一套精准的推荐算法可能烧了几千万，谁都不想被对手抄走。但从用户角度看，当决定工作、信贷甚至医疗资源分配的权力交给一个无法审计的系统时，那种被动感很难消除。
就像你坐上一辆自动驾驶汽车，司机说自己技术好但拒绝出示驾照，也不让你看行车路线——哪怕它确实开得稳，心里还是会打鼓。
有没有中间路？
部分行业开始尝试“可解释性接口”。比如银行用闭源模型做初筛，但必须提供通用级说明：“因收入稳定性不足被拒”或“负债率超过阈值”。这不像开源那样彻底，但至少留了一扇窗。
有些国家已立法要求高风险算法接受第三方审计。虽然不能查看全部代码，但能验证输入输出是否符合反歧视法规。这种“有限监督”模式，正在成为新平衡点。
普通人能做什么？
别以为这事离自己很远。下次签电子协议前，留意有没有“本服务依赖自动化决策”这类条款；遇到明显不公的推荐或判定，主动申诉并索要依据。集体质疑多了，厂商才会重视透明度。
技术本身不分善恶，但缺乏监督的权力必然滋生问题。闭源算法不是原罪，可当它介入公共资源分配时，公众理应拥有追问“为什么”的权利。