当技术人员只能通过辞职警告AI风险时,必须改革公司治理并赋予员工话语权
When tech workers have to quit their jobs to raise the alarm, it’s time to worry | Isabelle Ferreras
多位人工智能实验室的安全研究员通过辞职公开警告,反映出企业内部治理无法容纳安全异议,关键知识随之流失。作者呼吁三项立法改革:禁止沉默条款并强化举报者保护与员工安全通道、为职场算法部署建立协商和共同决定权并禁止自动解雇、推动董事会民主化并设立员工选举董事以实现双重多数治理。文章指出,仅靠外部监管无法弥补公司内部的专断决策,需同步改革公司内部治理以实现AI对公众利益的对齐。
详细解读
多位在OpenAI、Anthropic 等前沿实验室工作的安全研究员近两年先后以辞职并公开警告的方式提出安全担忧,作者认为这类“以退出代替发声”的模式暴露出行业内部治理的严重缺失。辞职不仅是个体道德行动,也带走了对安全至关重要的知识和能力,令外部监管难以发挥作用。
文章提出三项必须的立法改革以把企业内部治理纳入民主监督、并与外部监管相互补充。第一,保护和赋权构建AI模型的员工,禁止非披露与不得诽谤条款并建立强有力的举报者保护;同时应为技术人员提供独立上报安全问题的渠道和在模型部署前的正式代表权。第二,针对AI在职场的部署,要求在引入任何监控、评估或惩戒性算法前进行事前协商,确立职工在算法部署上的共同决定权,鼓励在国家或欧盟层面探索集体谈判与工会或工作委员会的否决权,并提出严格禁止基于算法的自动解雇。
文章援引Meta今年夏季员工对内部监控工具的反弹作为警示,说明员工对隐私和就业安全的担忧不容忽视。第三,推动董事会民主化,立法要求员工选举董事,向双重多数治理过渡,使战略决策需获得资本与劳动双方的同意,从而避免少数高管与风险投资者在未受制衡的情况下决定影响数百万人的模型价值观。
作者强调,AI不是普通消费软件,而是“治理技术”,在缺乏公司内部民主与多元审议的情况下,仅靠外部法规无法保证技术对齐公共利益。文章引用学者观点,指出将民主理由注入公司决策可以提升伦理判断与公共价值对齐,减少依赖零星举报和外部问责的脆弱治理模式。文章结尾呼吁把关注点从单纯的立法文本扩展到公司内部权力结构的重塑,认为只有同时推进外部监管与内部民主化,才能有效应对AI带来的系统性风险。

