張琳琳表示，人工智能作為引領未來的戰(zhàn)略性的技術，日益成為驅動經濟社會各領域從數字化網絡化向智能化加速躍升的重要量引擎，對人類文明的發(fā)展和社會進步產生廣泛深遠的影響，但與此同時人工智能技術的應用也帶來了安全風險挑戰(zhàn)。
人工智能安全規(guī)則及標準現狀
她認為，人工智能安全規(guī)則是人工智能安全治理的主要的依據，典型的規(guī)則體驗形式主要有倫理規(guī)范，法律法規(guī)和標準規(guī)范。
在具體的管理手段方面，世界主要國家共同選擇將倫理規(guī)范作為先導性治理手段。人工智能是一個新興的事物，處于高速發(fā)展期，需要一定的發(fā)展空間逐步完善。同時，為了給人工智能法律法規(guī)等強制性措施以充足的時間，要充分考量這個規(guī)則的方式。因此，現階段世界主要國家要是以軟性規(guī)范先行。
在具體的倫理規(guī)則制定方面，美歐各有不同，美國是以企業(yè)和行業(yè)層面為主，歐洲是以國家層面為主。我國倫理原則大多是2019年以來新近形成的，社會共識有待凝聚和加強，國際影響力較弱。
在法律法規(guī)方面，各國都比較謹慎。法律是社會治理的最后一種手段，是保障人民權利的最后一道屏障，至關重要。法律一般是基于現實生活而生成，無法對可能的社會風險作出反映，通常具有滯后性。
因此，國外主要是針對風險已經比凸顯的一些相關領域，例如，無人駕駛、無人機、深度偽造等重點應用領域進行立法規(guī)制。對于人工智能整體的專門立法，以歐盟《人工智能法》為代表。我國率先嘗試生成式人工智能的針對性監(jiān)管，2023年7月13日，公布的《生成式人工智能服務管理暫行辦法》，成為全球首個針對生成式人工智能的監(jiān)管規(guī)定。
從標準規(guī)范來看，當前國際和我國人工智能安全的標準步入成熟期，ISO/IEC、IEEE、NIST等國際標準化組織，積極開展人工智能的安全的研究，制定并相關標準，提升人工智能安全性。
從我國來看，2020年7月，我夠印發(fā)《國家新一代人工智能標準體系建設指南》，明確安全標準架構體系。我國全國信息安全標準化技術委員會在生物特征識別、智能終端、自動駕駛、智能制造等領域積極開展安全標準化的工作。
人工智能安全標準化工作的思路
最后，張琳琳提出人工智能安全標準化工作的思路。她指出，統(tǒng)籌安全和發(fā)展，加強基礎共性和重點亟待標準制定，面對未來人工智能發(fā)展的關鍵時期，人工智能安全標準化工作要繼續(xù)發(fā)揮基礎性、規(guī)范性、引領性的作用，以技術標準帶動人工智能發(fā)展。
在國際方面，要積極參與國際標準的制定，也要力爭主導相關的國際標準，提出人工智能安全評估評測，用戶隱私保護等相關的提案，貢獻更多的中國智慧。
在我國標準方面，要加強人工智能基礎共性安全標準的研究，持續(xù)完善人工智能標準的框架體系，重點開展了安全風險倫理設計，安全評估等一些基礎的標準的研究;也是要加快推進推進人工智能安全重點急需標準制定。
