1. XenForo 1.5.14 中文版——支持中文搜索!现已发布!查看详情
  2. Xenforo 爱好者讨论群:215909318 XenForo专区

科技 被谷歌解雇的AI伦理专家宣布成立AI研究所 防止AI伤害

本帖由 漂亮的石头2021-12-03 发布。版面名称:新闻聚焦

  1. 漂亮的石头

    漂亮的石头 版主 管理成员

    注册:
    2012-02-10
    帖子:
    488,399
    赞:
    48
    据报道,在被谷歌解雇整整一年后,知名的人工智能伦理专家蒂姆尼特·格布鲁(Timnit Gebru)今日宣布,将成立一个新的人工智能(AI)研究所,致力于成为一家提供不同观点、并防止伤害的独立机构。

    [​IMG]

    该AI研究所被称为“Distributed AI Research”(分布式人工智能研究,简称DAIR),已经获得了福特汽车、MacArthur、Kapor Center、洛克菲勒(Rockefeller)和“开放社会”(Open Society)基金会的资助。

    未来一年,该AI研究所计划聘请5名研究人员。格布鲁在采访中称,该研究所的首位研究员雷塞特·塞法拉(Resetje Sefala)在南非工作,研究如何使用计算机视觉算法和卫星图像来追踪“空间种族隔离”(某些地区的少数群体隔离)相关问题。

    格布鲁表示,投资人工智能研究的两个主要动机是,“如何让一家大公司尽可能多地赚钱,以及“如何更有效地杀死更多的人”。她说:“这就是我们当前筹集资金进行人工智能研究的两个基本目标。那么,是否还有其他选择呢?这就是我想要验证的。”

    而格布鲁试图在企业或军事影响力之外,打造一个研究小组,通过关注全球视角和“代表性不足的群体”,来防止人工智能系统的伤害。随着人工智能系统的蓬勃发展,该领域已被大型公司所主导,这些公司可以访问用于构建算法的海量数据和计算能力。

    格布鲁和其他研究人员,以及一些活动人士认为,这一趋势正使该领域变得更难进入,尤其是对于那些面临人工智能伤害风险的群体。而这些公司往往忽视与偏见和负面结果相关的问题,或者让那些直言不讳的人保持沉默。

    格布鲁的人工智能研究所在一份声明中称:“人工智能不是不可避免的,它的危害是可以预防的。当它的研究和部署涵盖不同的视角和深思熟虑的程序时,它可能就是有益的。”格布鲁将担任该研究所的执行董事。

    去年,格布鲁被谷歌解雇。她自己称,是因为一篇未发表的文章而被谷歌解雇。据悉,格布鲁的一篇批评大型人工智能模型(包括谷歌开发的模型)的论文引发了争议。此外,格布鲁还公开指责谷歌对待女性和黑人员工的方式。

    两个月后,谷歌又解雇了格布鲁的同事玛格丽特·米切尔(Margaret Mitchell)。这引发了人们对研究人员是否可以自由开展独立工作的质疑。

    格布鲁还希望她的团队成为一种资源,为其他组织提供人工智能项目方面的建议。此外,她还计划为受人工智能影响的人群设立一个奖学金。
     
正在加载...