专家不认为AI准备成为“共同科学家”

上个月，谷歌宣布了“ AI共同科学家”，该公司旨在帮助科学家制定假设和研究计划。 Google将其作为发现新知识的一种方式，但是专家认为这是一种挑战 - 以及类似的工具 - 毫无疑问。 麻省理工学院计算机视觉研究人员萨拉·贝里（Sara Beery）告诉TechCrunch：“这种初步工具似乎不太可能被认真使用。” “我不确定科学界对这种假设产生系统是否有需求。” Google是最新的技术巨头，旨在提高AI有一天会大大加快科学研究的概念，尤其是在文献繁殖的地区，例如生物医学等文献。 Openai首席执行官Sam Altman在今年早些时候的一篇文章中说，“超级智能” AI工具可以“大大加速科学发现和创新”。同样，拟人的首席执行官达里奥AMOdei大胆地预测，AI可以帮助大多数癌症制定治疗方法。 但是，许多研究人员今天不认为AI在指导科学过程中特别有用。他们说，诸如Google的AI共同科学家之类的应用程序似乎比任何事物都更炒作。 例如，在其描述AI共同科学家的博客文章中，Google表示，该工具已经在诸如急性髓性白血病的药物重新利用等领域表现出了潜力，急性髓性白血病是一种影响骨髓的血液癌。然而，结果是如此模糊，以至于“没有合法的科学家会认真对待[他们]。” 杜比克告诉TechCrunch：“这可以用作研究人员的好起点，但是[…]缺乏细节令人担忧，不让我相信它。” “缺乏信息使得非常困难如果这确实可以有所帮助。” 这并不是科学界第一次批评Google在不提供重现结果的手段的情况下夸大所谓的AI突破。 2020年，Google声称其AI系统之一接受了检测乳腺肿瘤的培训，其结果比人类放射科医生更好。哈佛大学和斯坦福大学的研究人员在《自然》杂志上发表了反驳，称缺乏Google研究中的详细方法和代码“破坏了其科学价值”。 科学家还嘲笑Google掩盖了其针对材料工程等科学学科的AI工具的局限性。该公司在2023年表示，大约有40种“新材料”在其AI系统之一（称为Gnome）的帮助下被合成。然而，外部分析发现，实际上，没有一种材料是新的。 “我们不会真正了解Google＆＃8等工具的优势和局限性216;共同科学家'直到他们对各种科学学科进行严格的独立评估。 “ AI通常在受控环境中表现良好，但在大规模应用时可能会失败。” 复杂的过程 开发AI工具以帮助科学发现的挑战的部分是预期有很多混杂因素。 AI可能会在需要广泛探索的地区派上用场，例如缩小大量可能性清单。但是，还不清楚AI是否能够实现导致科学突破的开箱即用的问题。 “我们在整个历史上都看到，一些最重要的科学进步，例如mRNA疫苗的开发，是由人类的直觉和毅力驱动的，面对怀疑主义，＆＃8221。; Khudabukhsh说。 “如今，AI可能不适合复制这一点。” 日本索尼计算机科学实验室的AI研究人员Lana Sinapayen认为，诸如Google的AI联合科学家之类的工具专注于错误的科学腿部工作。 Sinapayen认为AI的真正价值可以使技术上困难或乏味的任务自动化，例如总结新的学术文献或格式化工作以满足赠款申请的要求。她说，科学界对生成假设的AI共同科学家的需求不多，她说，这项任务是许多研究人员从中获得智力实现的任务。 Sinapayen告诉TechCrunch：“对于许多科学家而言，包括我本人，产生假设是最有趣的部分。” “为什么我要把我的乐趣外包给计算机，然后只剩下自己的辛苦工作？总的来说，许多生成的AI研究人员似乎都在误会不知道人类为什么要做自己的工作，而我们最终提出了对我们从中获得欢乐部分的产品的提议。” 贝里（Beery）指出，科学过程中最困难的一步是设计和实施研究和分析以验证或反驳假设，这不一定在当前的AI系统范围内。 当然，AI不能使用物理工具进行实验，并且在存在极为有限的数据的问题上通常会更糟。 Beery说：“大多数科学实际上是完全不可能做的 - 科学过程中经常有重要的组成部分，例如收集新数据并在实验室中进行实验。” “相对于实际科学过程，系统的一个很大的局限性（例如Google的AI联合科学家）绝对限制了其可用性，是关于实验室和研究人员使用该系统及其特定RE的背景搜索目标，过去的工作，技能以及他们可以使用的资源。” 人工智能冒险 AI的技术缺陷和风险（例如幻觉的趋势）也使科学家对认真工作的认可持谨慎态度。 Khudabukhsh担心AI工具可能最终会在科学文献中产生噪音，而不会提升进步。 这已经是一个问题。最近的一项研究发现，AI制作的“垃圾科学”是Google的免费搜索引擎，用于学术文献。 Khudabukhsh说：“如果没有仔细监测，AI生成的研究可能会以较低质量甚至误导性的研究淹没科学领域，这压倒了同行评审过程。” “在计算机科学等领域，最不知所措的同行评审过程已经成为一个挑战，在计算机科学上，最高会议的提交意见呈指数级别的增长。” 即使是精心设计的研究也可以Sinapayen说，不因AI的不良行为而受到污染。虽然她喜欢可以帮助文学审查和综合的工具的想法，但Sinapayen说，她今天不相信AI可以可靠地执行这项工作。 Sinapayen说：“这些是各种现有工具声称要做的事情，但这些不是我个人留给当前AI的工作。”他补充说，她对许多AI系统的训练方式以及他们消耗的能量的量也构成疑问。 “即使解决了所有道德问题[…]，目前的AI也不足够可靠，无法以一种或另一种方式将我的工作基于他们的输出。”