Lần đầu tiên luật quy định cấm dùng trí tuệ nhân tạo để giả mạo người khác
Đây là bước tiến quan trọng và kịp thời với sự phát triển của công nghệ và kịp thời trong bối cảnh trí tuệ nhân tạo đang được sử dụng ngày càng phổ biến vào các mục đích xấu.
Mới đây, Quốc hội đã chính thức thông qua Luật An ninh mạng 2025. Luật An ninh mạng 2025 được hợp nhất từ Luật An ninh mạng 2018 và Luật An toàn thông tin mạng 2015, nhằm tinh gọn đầu mối quản lý, tránh chồng chéo và tạo hành lang pháp lý thống nhất.
Cấm sử dụng trí tuệ nhân tạo để giả mạo video, hình ảnh giọng nói của người khác trái quy định. Ảnh minh họa: AI
Cấm dùng trí tuệ nhân tạo để giả mạo hình ảnh, giọng nói của người khác
Đáng chú ý, Điều 7 Luật có quy định về các hành vi mới bị nghiêm cấm về an ninh mạng. Trong đó, có hành vi cấm sử dụng trí tuệ nhân tạo (AI) hoặc công nghệ mới để giả mạo video, hình ảnh giọng nói của người khác trái quy định của pháp luật; tạo lập, đăng tải, phát thông tin quy định tại khoản 1 Điều 7 (đăng tải, phát tán thông tin nhằm tuyên truyền chống Nhà nước; xuyên tạc lịch sử, phủ nhận thành tựu cách mạng, phá hoại khối đại đoàn kết toàn dân tộc, xúc phạm tôn giáo, phân biệt đối xử về giới, phân biệt chủng tộc; bịa đặt, vu khống, thông tin sai sự thật, sai sự thật gây hoang mang trong Nhân dân, gây thiệt hại cho hoạt động kinh tế - xã hội...).
Nhận xét về quy định mới trên, luật sư Nguyễn Quốc Cường, Đoàn Luật sư TP.HCM, cho rằng trong bối cảnh AI, đặc biệt là các công nghệ deepfake (công nghệ ứng dụng AI, đặc biệt là các thuật toán học sâu để tạo ra nội dung giả mạo có độ chân thực cao, bao gồm hình ảnh, video và âm thanh), tổng hợp giọng nói và tạo dựng hình ảnh ảo đang trong thời kỳ phát triển vượt bậc, thì việc Quốc hội lần đầu tiên ghi nhận hành vi cấm sử dụng AI hoặc công nghệ mới để giả mạo hình ảnh, giọng nói của người khác là bước tiến quan trọng và kịp thời.
Luật sư Nguyễn Quốc Cường, Đoàn Luật sư TP.HCM
3 ý nghĩa quan trọng
Theo luật sư Cường, quy định này có ý nghĩa ở ba phương diện lớn.
Thứ nhất là ý nghĩa pháp lý khi lần đầu tạo hành lang pháp lý trực tiếp điều chỉnh công nghệ deepfake và công nghệ giả mạo.
Trước đây, hành vi giả mạo hình ảnh, video, giọng nói chủ yếu được xử lý dựa trên các quy định liên quan trong BLDS (quyền nhân thân), BLHS (tội lợi dụng quyền tự do dân chủ xâm phạm lợi ích cá nhân, làm nhục, vu khống...) và Luật An ninh mạng 2018. Tuy nhiên, những quy định này không đề cập trực tiếp đến công nghệ mới như AI, deepfake nên còn thiếu cơ chế trong việc áp dụng pháp luật xử lý khi có hành vi vi phạm và đôi khi dẫn đến việc cơ quan nhà nước không không biết xử lý như thế nào.
Việc đưa hành vi sử dụng AI để giả mạo vào nhóm hành vi bị nghiêm cấm về an ninh mạng đã tạo khung pháp lý rõ ràng, có tính răn đe và giúp cơ quan quản lý có cơ sở căn cứ xử lý ngay khi phát hiện hành vi vi phạm.
Thứ hai về ý nghĩa xã hội, giúp bảo vệ danh dự, uy tín, hình ảnh của cá nhân, ngăn chặn những hành vi lừa đảo, góp phần xây dựng xã hội phát triển, an toàn. AI đã được sử dụng để tạo ra video giả mạo người nổi tiếng quảng cáo sản phẩm; giọng nói ngân hàng giả mạo gọi điện để lừa đảo; deepfake lãnh đạo phát ngôn sai sự thật; hình ảnh nhạy cảm giả nhằm tống tiền hoặc bôi nhọ. Những hành vi này gây tổn thương nghiêm trọng đến quyền nhân thân, uy tín cá nhân, đồng thời đe dọa đến an ninh thông tin, trật tự xã hội, thậm chí gây hoang mang dư luận.
Do đó, việc luật hóa hành vi cấm giúp bảo vệ người dân trước rủi ro lừa đảo công nghệ cao; bảo vệ các tổ chức, doanh nghiệp trước tin giả tài chính; ổn định môi trường thông tin, tránh lan truyền nội dung độc hại và nâng cao trách nhiệm của nền tảng và người sử dụng mạng.
Thứ ba là ý nghĩa đối với an ninh quốc gia giúp ngăn chặn lợi dụng AI để xuyên tạc, kích động, chống phá. Cụ thể, Điều 7 Luật An ninh mạng 2025 liệt kê rõ các nhóm thông tin bị cấm đăng tải, trong đó có: tuyên truyền chống Nhà nước; xuyên tạc lịch sử, kích động chia rẽ dân tộc; bịa đặt, vu khống, gây hoang mang trong nhân dân; thông tin sai sự thật về tài chính, chứng khoán, tiền tệ.
Ngoài ra, theo luật sư Cường, khi kết hợp với công nghệ AI, mức độ nguy hiểm tăng lên gấp nhiều lần. Một video deepfake lãnh đạo phát biểu sai sự thật, hay giọng nói giả mạo trong lĩnh vực tài chính - ngân hàng có thể gây ra khủng hoảng lòng tin, tổn thất kinh tế và an ninh quốc gia. Việc luật hóa giúp chặn từ gốc các hành vi nguy hiểm này.
Cần hướng dẫn cụ thể giả mạo bằng AI là gì?
Để bảo đảm hiệu quả và áp dụng một cách hiệu quả, chúng ta cần có văn bản hướng dẫn chi tiết định nghĩa và phạm vi của hành vi "giả mạo bằng AI”.
Cần làm rõ thế nào là “giả mạo bằng AI”, ranh giới giữa sáng tạo nghệ thuật (AI tạo nhân vật ảo) và hành vi vi phạm quyền nhân thân. Trường hợp sử dụng AI trong hài kịch, châm biếm có bị coi là vi phạm không? Thế nào là “trái quy định của pháp luật hay trái luật”, có bao gồm cả việc dùng AI để chỉnh sửa ảnh thông thường hay chỉ áp dụng cho deepfake, giọng nói tổng hợp.
Việc định nghĩa rõ giúp tránh tình trạng áp dụng tùy tiện, tránh tối đa việc suy nghĩ chủ quan của người áp dụng pháp luật.
Cạnh đó, cần quy định trách nhiệm của các nền tảng mạng xã hội và đơn vị cung cấp công cụ AI. Bổ sung quy định về nền tảng mạng xã hội phải có công cụ phát hiện nội dung AI giả mạo, phải có cơ chế kiểm duyệt nội dung chặt chẽ trước khi. Buộc gỡ bỏ trong thời gian rất ngắn (ví dụ 24 giờ) hoặc có cơ chế tự động gỡ bỏ khi phát hiện hành vi vi phạm, gắn watermark AI (ảnh, video có nhãn AI-generated).
Cũng cần có quy định về cơ chế giám định kỹ thuật số để phát hiện deepfake, do hiện nay chưa có quy trình giám định nhà nước về deepfake, đây là thiếu hụt lớn và tạo ra lỗ hổng rất lớn.
Cuối cùng nên có quy định bảo vệ riêng đối với hình ảnh, giọng nói của người nổi tiếng, trẻ em, cán bộ công chức. Vì những nhóm này là mục tiêu tấn công phổ biến của deepfake.
Tóm lại, quy định mới của Luật An ninh mạng 2025 là bước tiến quan trọng, phù hợp với sự phát triển của công nghệ và kịp thời trong bối cảnh AI đang được sử dụng ngày càng phổ biến vào các mục đích xấu.
Tuy nhiên, để thực sự mang lại hiệu quả, cần có hệ thống văn bản hướng dẫn chi tiết về phạm vi điều chỉnh, cơ chế giám sát và trách nhiệm của các chủ thể liên quan. Điều này vừa bảo đảm quyền nhân thân, danh dự, uy tín của cá nhân, vừa giữ vững an ninh mạng, an toàn thông tin trong thời đại AI.
(Luật sư NGUYỄN QUỐC CƯỜNG, Đoàn Luật sư TP.HCM)
