在刚刚落幕的“2024 ESG 全球领导者大会”上，新浪财经欧洲站站长郝倩与《人类简史》及《智人之上》的作者尤瓦尔·赫拉利进行了一场深刻的对话。赫拉利教授在讨论中指出，人工智能的崛起无疑是人类面临的重大挑战之一，但同时，它也蕴含着巨大的潜力和机遇。他强调，如果能够确保人工智能的发展不偏离人类价值观，它有可能成为人类历史上最伟大的发明之一。
赫拉利以医疗保健为例，指出在医生资源不足的情况下，人工智能医生能够提供极大的帮助。他还提到，每年有超过100万人死于交通事故，其中大多数是由于人为失误，如酒后驾驶或疲劳驾驶。如果由人工智能控制自动驾驶，每年可以挽救数以百万计的生命。尽管人工智能也可能导致事故，但其数量将大幅减少。
在气候变化问题上，赫拉利认为人工智能可以帮助人类发现新的能源和更可持续的经济管理模式。然而，他同时警告，我们面临的最大挑战是如何在享受这些好处的同时，避免技术带来的潜在风险。
在谈到人工智能的监管时，赫拉利强调监管的重要性，并指出许多国家的政府对此表现出了浓厚的兴趣。他提到，尽管政府机构在如何监管人工智能方面尚不确定，但有些基本规则是显而易见的，比如禁止人工智能冒充人类。他解释说，我们需要知道在社交媒体上与我们互动的是人工智能还是人类，因为机器人可能会推送内容以吸引点击，从而误导我们。
赫拉利进一步强调，人工智能公司应对其算法的行为负责。他比喻说，如果一家公司生产的汽车或药品存在缺陷，导致事故或疾病，公司必须承担责任。同样，如果一个算法对社会或人类心理产生了负面影响，那么开发它的公司也必须承担责任。
他提醒我们，人工智能是不断学习和变化的，我们无法预测它未来可能带来的所有问题和威胁。因此，我们需要的不仅是监管，还需要一个能够理解人工智能发展并迅速做出反应的可信赖机构。
赫拉利建议，应该建立一个全球性的人工智能发展观测站，类似于天文台，以监测和报告人工智能的实际发展、尖端技术和潜在风险。他认为，虽然达成全球性协议困难重重，但这样的观测站可以观察并告知人们正在发生的事情，各国政府可以承诺提供资金支持。
最后，赫拉利在回答关于可持续发展社会的关键要素时表示，关键在于更好地理解人类。他认为，社会发展的最终目标是提高人类的生活质量和幸福感。他强调，我们应该投入同样多的资源去了解和发展人类，而不仅仅是技术。
“如果我们在人工智能开发上投入的每一美元和每一分钟，都能在了解和发展人类方面也投入同样多，那么我相信，我们的未来将会更加光明。”赫拉利总结道。
