首先，让我们定义理解一致：
人工智能偏见：负面偏见可能是基于人类偏见或不准确假设的系统性错误的结果。其结果是系统以非预期的方式运行。偏见错误的例子包括应用程序无法检测某些口音；排除或过度针对一个或多个人群；以及生成性人工智能将受保护的特征与有害的特定单词或短语混为一谈。
毒性：有毒语言、有害对话和伤人评论可能会出现在大型语言模型(llm) 输出中。研究人员测试了一种广泛使用的生成式 ai 工具的毒性，发现假设某些角色（例如拳击手穆罕默德·阿里）会显著增加反应的 毒性。
优先考虑安全性以保护人工智能流程中的数据完整性
优先考虑您的安全态势，以便在整个组织内安全地实施 ai，并减轻偏见或毒性的影响。数据治理、清洁度和安全控制等关键组件对于准备数据和确保部署前 ai 应用的安全性至关重要。
例如，通过salesforce platform，公司可以使用诸如检测敏感财务数据、管理数据保留和客 泰国手机区号 户同意/偏好以及在生成 ai 提示之前执行数据访问策略等工具。这些措施可确保在 ai 增强型工作流程中仅使用经过批准的数据。此外，组织可以通过托管在安全云平台上的审计跟踪和反馈存储来监控部署后的异常情况。
采取以下措施可确保您以安全且合乎道德的方式开发 ai 应用程序：
定义你和你的开发团队将纳入任何新 ai 应用中的 道德原则和准则
使用nist ai 风险管理框架为您的应用制定风险概况，并确定您是否可以支持它
使用模型卡或系统卡记录您的应用，以便向用户透明地说明预期用途、性能以及您提供的特定道德问题和防护措施。