微软最近正式推出了Azure AI ContentSafety，这是一款内容审核工具，它于今年5月开始测试。这个工具集成了经过训练的AI模型，可以检测图片或文本中与偏见、仇恨、暴力等负面内容相关的信息，可以理解和检测8种语言的图片或文本。

审计工具为标记的内容提供严重性分数，并指示人工审计员处理需要采取行动的内容。最初，这个审计工具被集成到AzureOpenAI服务中，但现在它将作为一个独立的系统推出。

微软在官方博文中指出:“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成的内容，并调用一些用户生成的内容，以进一步扩展其实用性。”

微软表示，在处理数据和内容时，虽然该产品在公平性和对上下文的理解方面有所提高，但仍然需要依靠人工审计员来标记数据和内容。这意味着最终的正义取决于人类。然而，在处理数据和内容时，人工审核员可能会因为自身的偏见而不完全中立和审慎。