2023年4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能管理辦法（征求意見稿）》，明確要求利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀，不得含有破壞國家統(tǒng)一、宣揚(yáng)民族仇恨、暴力信息等可能擾亂經(jīng)濟(jì)和社會秩序的內(nèi)容。
以大模型技術(shù)為核心的生成式AI技術(shù)近來受到了廣泛的關(guān)注和應(yīng)用，而大模型訓(xùn)練語料大多來自互聯(lián)網(wǎng)，而互聯(lián)網(wǎng)中存在很多敏感信息。因此對生成式AI的內(nèi)容監(jiān)管將成為互聯(lián)網(wǎng)安全管理工作的重要內(nèi)容，云創(chuàng)cGPT M1000敏感信息過濾一體機(jī)在此背景下應(yīng)運(yùn)而生，能夠針對各種場景，識別和篩選出文本中的潛在敏感信息，有效避免大模型產(chǎn)品在提供服務(wù)時產(chǎn)生不可控信息，為大模型技術(shù)應(yīng)用安全保駕護(hù)航。
