数字承诺推出AI产品认证计划 保障教育技术工具的安全与公正
项目背景
近日，非营利组织数字承诺（Digital Promise）宣布推出“负责任设计的AI产品认证”计划，旨在帮助学校领导选择符合学生学习与安全要求的人工智能驱动教育技术工具。随着AI在教育领域的迅速发展，学校面临着越来越多的选择，如何挑选出安全且有效的工具成为了一个重要课题。
认证评估标准
该认证项目特别针对人工智能教育工具的多个关键方面进行评估，包括数据安全性、公平性以及透明度。为了获得认证，教育技术供应商必须证明其产品符合一系列要求，例如：
- 清晰说明数据收集和使用的方式;
- 提供数据泄露的应对计划;
- 采用包容性开发实践，并监测算法偏见;
- 明确指出AI的应用场景;
- 允许教育工作者对AI的输出进行干预。
图源备注：图片由AI生成，图片授权服务商Midjourney
实际应用与反馈
数字承诺在新闻稿中表示，已经有多个美国地区的学校领导计划将该认证纳入其采购流程。以芝加哥公立学校的企业通用AI经理洛恩·罗德里格斯（Lorne Rodriguez）为例，他曾参与该认证的试点项目，对其有效性深表认可。他指出：“负责任设计的AI认证为学区领导提供了一种简单而透明的方式，以验证这些工具在数据隐私和安全方面的高标准，确保AI的使用是公正、无偏见且对所有学生都有益的。”
促进学校评估负担减轻
数字承诺鼓励所有学校系统利用这一认证以及其他第三方认证来减轻对供应商的评估负担。为了帮助学校系统整合产品认证问题，数字承诺还提供了相关模板。根据数字承诺官网的信息，目前已有超过150种教育技术工具的产品认证可供选择，而该组织直接发行的认证数量为六项，其他教育非营利组织也提供各自的认证，包括1EdTech、Project Unicorn和应用特殊技术中心（CAST）等。这些产品认证旨在验证教育技术工具在数据隐私、互操作性、有效性和包容性设计等多个方面是否达到特定标准。
展望未来
通过这一举措，数字承诺希望能够为教育界提供更为可靠的AI工具选项，帮助学校以更安全和高效的方式迎接数字化转型的挑战。
