10月20日消息，據外媒報道，微軟宣布正式推出Azure?AI?Content?Safety，這是一項新服務，可以幫助用戶在應用程序和服務中檢測和過濾有害的人工智能和用戶生成的內容。

該服務包括文本和圖像檢測，并識別微軟所說的“冒犯、危險或不受歡迎”的內容，包括褻瀆、血腥、暴力和某些類型的言論。

Azure?Anomaly?Detector產品經理Louise?Han表示：“通過關注內容安全，我們可以創造一個更安全的數字環境，促進負責任地使用人工智能，保障個人和整個社會的福祉。”

Azure?AI?Content?Safety能夠處理各種內容類別、語言和威脅，以調節文本和視覺內容。它還提供了使用人工智能算法掃描、分析和調節視覺內容的圖像功能，確保微軟所說的360度全面安全措施。

該服務還配備了跨多種語言的內容調節功能，并使用嚴重性度量標準，在0到7的范圍內提供特定內容的嚴重性指示。

0-1級的內容被認為是安全的，適合所有觀眾觀看，而表達偏見、判斷或固執己見的內容被評為2-3級或較低。

中等嚴重程度的內容被分級為4-5，包含攻擊性，侮辱性，嘲弄，恐嚇語言或對身份群體的明確攻擊，而高嚴重程度的內容，包含有害和明確的促進有害行為，或支持或美化對身份群體的極端形式的有害活動，被分級為6-7。

此外，Azure?AI?Content?Safety還使用多類別過濾來識別和分類一些關鍵領域的有害內容。