在高等教育和其他领域实施人工智能（AI）既有巨大的优势也面临重大挑战。这些挑战主要涉及到人工智能的治理和规范，以确保其使用是道德和安全的。这一观点来源于最近发布的欧洲大学人工智能观察报告第二期，该报告是由马德里欧洲大学的教授们和相关专家合作完成的。
阿维拉是西班牙技术公司ARQUIMEA研究中心人工智能领域的主要研究员之一，也是该报告的作者之一。他认为：“在教育领域内规范人工智能条款时，业内精英们应确保人工智能的道德性和安全性。这包括制定清晰的数据使用政策，确保计算机网络的安全和隐私的保护。”
阿维拉强调了欧盟最近通过的《人工智能法案》的重要性，他指出这标志着人工智能治理和控制的必要性。这是全球首个全面规范人工智能的法律，旨在为这一创新技术的发展和使用创造最佳条件。
阿维拉认为，尽管这是一项世界先驱性的法律，因为它早在一些语言模型发布之前就开始制定规范了。但他认为其发布时间过长，而且制定的框架过于笼统。
01
关于人工智能与打击虚假信息
然而，他指出，这也引发了将该法律具体落实为一系列特定规定的需求，这些规定涉及规避人工智能在道德性和可信性方面的影响：“我们需要控制它，以防止其滋生我们可能遇到的虚假信息，或者它有可能被用于伤害个人及社会安全。”
“目前来看，现在即使不是营销专家，人们也能利用语言模型来定制信息和消息，以吸引特定的观众。这种能力来自于人工智能模型对语言和内容的理解能力，使得传达给特定目标群体的信息更具有吸引力和有效性。这种技术同样可以被用来传播虚假、有害、甚至更具吸引力的信息，这种信息可以迅速传播到更广泛的受众中。”他如实表示，并补充说道：“如果社交媒体的机器人被赋予更强大的能力来创建和传播消息，虚假信息可能会自主生成并迅速传播，这可能导致信息环境中的更大混乱和误导。”
02
人工智能是人类智慧的助推器
ARQUIMEA研究中心人工智能轨道的主要研究员指出：“人工智能为我们提供了以前无法获得的能力。但这可能存在一种危险趋势，即通过算法使机器自主地做出各种决策。”
然而，他指出：“人工智能技术可以作为工具来增强人类的智能能力，使人们能够更快速、更有效地解决问题，实现目标。”
但同时，他提出了另一个风险：“这些技术可能导致一些负面影响。首先，这些工具可能使人们迅速获得新的能力，这可能导致技能的不平等分配。即使技术普及化，但仍可能导致只有一部分人能够充分利用和访问这些高级技术，从而加深社会中的认知能力差距。其中一个更令人担忧的是：这种现象可能会超越传统的数字鸿沟，形成更深的认知能力鸿沟。”
为了定期发布关于人工智能当前状态及其短中期发展预期的报告，欧洲大学于2023年9月成立了高等教育人工智能观察台。
该观察台由学术和/或工业领域的知名专业人士、马德里欧洲大学的资深教授以及对该学科感兴趣的非教学人员组成，其目的是为了密切关注人工智能技术在教育领域的具体使用方法，探索其在学术研究、学习支持和教育管理等方面的潜在应用。
关闭
