據顯示，2021年人工智能核心產業規模預計達到1998億元，2026年將超過6000億元。但是，問題也隨之而來。

全國政協委員、重慶理工大學校長杜惠平介紹，受限于人工智能技術及其應用領域中的各利益相關方，如研發者、使用者、受用者和管理者等各方，他們的各自技術理解水平及風險把控能力等的差異，往往出現階段性短視而增大風險防范難度，造成對他們自身及經濟社會長遠發展的不利影響。

今年全國兩會期間，杜惠平提出了這方面的提案。他表示，目前人工智能技術在數據方面存在技術濫用與外部入侵兩大風險，最重要的是，在法律層面的責任認定，還是空白。

杜惠平舉例稱，在數據方面，涉及到個人及其經濟、社會活動等相關算法的訓練過程中，個人的身份、財產、地址等身份信息，以及筆跡、走路形態等行為信息，都將成為訓練數據的來源。在市場上無企業準入限制的情況下，大量個人信息面臨被濫用的可能。

除了數據技術方面的問題，現行法律法規，沒有明確界定人工智能的設計、制造、消費、使用等各個環節的主體責任與義務。杜惠平舉例說，自動駕駛汽車決策錯誤導致人員傷亡，智能醫療助理給出錯誤醫療建議導致患者病情加重，這些責任如何劃分？

因此，杜惠平建議，針對技術層面的問題，國家應提高人工智能行業的準入門檻，不僅要篩選出具備相關安全風險機理認知和風險防御技術能力的公司，更要確保人工智能企業在應用產品時合法合規、可靠可控、數據安全可信，以及人工智能應用于社會治理時的決策公平公正。還要加強人工智能過程性數據安全監管，并及時對人工智能安全風險進行監控，在進行全過程掃描后能夠有效識別其風險點、威脅點和脆弱點，構建安全風險數據庫，及時追蹤發現隱患。

針對法律責任劃分方面的問題，杜惠平還提交了一份關于完善自動駕駛保險和事故賠償政策法規的提案。他建議，法律層面要健全自動駕駛機動車侵權責任制度，保險層面建立自動駕駛機動車保險賠付制度，還要設定自動駕駛機動車事故責任認定標準和流程，完善自動駕駛汽車生產許可與質量管理制度。只有基礎工作完成，自動駕駛技術才有可能繼續發展，自動駕駛機動車才有可能市場化。