(HTV) - Xuất hiện lần đầu chỉ vài năm trước, "Deepfake" – không chỉ có thể tạo ra những trò đùa gây nhầm lẫn, nhưng cũng như ẩn chứa nguy cơ ngày càng lớn lên nhiều mặt xã hội
Deepfake là những video được trí tuệ nhân tạo sửa đổi và tạo ra, lần đầu tiên xuất hiện vào năm 2017. Sơ lược, có 3 phương pháp để Deepfake.
Phương pháp đầu tiên là “hoán đổi khuôn mặt”: đặt khuôn mặt của một người lên cơ thể của một người khác. Phương pháp này tương đối đơn giản và có thể sử dụng được trên nhiều ứng dụng di động như Snapchat, Reface, FaceMagic.
Phương pháp thứ hai, phức tạp hơn là "tái hiện khuôn mặt": lấy một đoạn video gốc có khuôn mặt của nạn nhân, rồi tái tạo các cử chỉ, động tác, chuyển động của họ nhờ một diễn viên trong trường quay. Mục đích thay đổi tư thế hoặc nét mặt của nạn nhân.
Phương pháp thứ ba - "nhép môi" : trong trường hợp này, một thứ mặt nạ môi được sửa đổi trực tiếp để khiến một người nổi tiếng nói điều mà họ chưa bao giờ nói, với giọng nói bắt chước giọng của nạn nhân hoặc giọng do AI tạo ra.
Đối với 3 phương pháp này, các cử chỉ, nét mặt và đôi khi là giọng nói của nạn nhân được nghiên cứu nhờ AI học các hình ảnh của video gốc, từng giây một, sau đó chồng/dán/tái tạo/sửa đổi chúng với các hình ảnh khác. Càng nhiều thông tin được nhập vào chương trình, Deepfake sẽ càng chân thực. Từ lâu, giới điện ảnh đã sử dụng kỹ thuật này để trẻ hóa các diễn viên.
Hình ảnh cựu Tổng thống Mỹ Donald Trump bị bắt hoàn toàn là giả
Việc tạo ra hình ảnh giả mạo không phải phát minh gì đó quá mới mẻ. Và càng ngày, sự phát triển của AI khiến quá trình tạo ra nó dễ dàng hơn rất nhiều. Tờ Guardian nhận định "Deepfake tương đương với Photoshop trong thế kỷ 21".
Theo một báo cáo của trang khoa học công nghệ Futurism, đồ họa do AI tạo ra hiện đang trải qua một thời khắc quan trọng trong văn hóa chính thống. Điển hình là hình ảnh AI của Giáo hoàng Phanxicô mặc áo khoác màu trắng như một fashionista thực thụ đã khiến nhiều người thích thú, dù vẫn bán tín bán nghi!
Hay như đoạn video “Harry Potter by Balenciaga". Đoạn phim ngắn được xem là kỳ lạ, nhưng hấp dẫn, đã thu hút sự chú ý của internet. Nó giả giọng nói và nhại lại lời thoại của những diễn viên trong phim, cũng như tạo hình các nhân vật đầy thần thái.
Nhưng điều thực sự hay ho là đoạn phim trông có vẻ đáng tin đến mức nào. Một người dùng mạng thậm chí thốt lên "tác giả vừa tạo ra một đoạn quảng cáo đáng giá 2 triệu đô la với chi phí có thể chưa đến 10 đô".
Hình từ clip Harry Potter by Balenciaga gây bão mạng xã hội
Dù vậy, sự lan truyền của Deepfake vẫn là khuynh hướng nguy hiểm cho môi trường tin tức, đặc biệt trong thời đại đọc nhanh. Ngoài ra, công cụ này còn mang đến nguy cơ thao túng chính trị, đặc biệt là vì phương thức hoán đổi khuôn mặt có thể được thực hiện trực tiếp. Điển hình cho việc này: Trên mạng xã hội Twitter lan truyền hình ảnh cựu tổng thống Mỹ Donald Trump bị cảnh sát mặc trang phục chống bạo động New York bắt trên đường phố. Hầu hết các bức ảnh này đều rất chi tiết, sống động, nhưng toàn bộ là giả. Không rõ bao nhiêu người chia sẻ những tấm ảnh trên với niềm tin rằng đó là sự thật. Tuy nhiên, sự lan truyền chóng mặt của những tấm ảnh một phần bắt nguồn từ yếu tố thời sự có thật, là ông Trump bị truy tố hình sự.
Tương tự, tổng thống Nga Vladimir Putin cũng bị tung hình giả bị Tòa hình sự quốc tế (ICC) phát lệnh truy nã.
Hãng tin AP dẫn lời các chuyên gia về tin giả cảnh báo thực trạng tin, ảnh, video giả tràn lan mạng xã hội, "đu" theo dòng thời sự. Theo đó, hình ảnh giả mạo đã tiếp thêm thông tin nhiễu vào các sự kiện lớn, làm tăng mức độ hoài nghi, khiến người ta bắt đầu mất niềm tin vào hệ thống và các thông tin hiện có. Chưa hết, từ lâu đã có những lo ngại rằng các công cụ AI "đánh cắp" các tác phẩm sẵn có để làm nguồn cho sản phẩm của mình.
Trước “sự lạm dụng quá mức và nhu cầu tăng bất thường” trong thời gian qua, công cụ AI chuyển văn bản thành hình ảnh nổi tiếng Midjourney thông báo ngừng bản thử nghiệm miễn phí. Chia sẻ với The Verge qua email, đại diện công ty cho biết quyết định trên được đưa ra do một số lượng lớn người dùng đã tạo những tài khoản rác để đạt được lượt tạo ảnh miễn phí trên hệ thống.
Dù thế, phản ứng của Midjourney trước mối đe dọa leo thang nhạy cảm về mặt chính trị từ những hình ảnh giả mạo cho đến nay vẫn diễn ra từng chút một, chứ chưa có sự cải tổ đáng kể nào đối với các chính sách kiểm duyệt của hãng. Nếu như Dall-E của OpenAI từ chối tạo hình ảnh liên quan đến chính trị gia, Stable Diffusion hạn chế hình ảnh khiêu dâm, bạo lực, Midjourney có cả hai nội dung này.
.jpg)
Midjourney ngừng bản thử nghiệm miễn phí vì nhận thấy lạm dụng quá mức
Nhiều trang web AI đã đặt ra các hạn chế đối với những văn bản nhập vào. Tuy nhiên, người dùng có thể "lách" các lệnh cấm này bằng cách sử dụng các cách viết khác nhau của từ, hoặc cách nói "bóng gió" khác.
Chưa hết, việc can thiệp của các nền tảng, công cụ dường như chưa đủ để quản lý một cách hiệu quả. Sau khi hình ảnh Đức Giáo hoàng Phanxicô dùng AI tạo ra được lan truyền rộng rãi, tác giả nhận ra tác động tiềm tàng của công nghệ và cho rằng "chuyện sẽ trở nên nghiêm trọng nếu không bắt đầu thực thi các luật để điều chỉnh".
Giới chuyên gia đánh giá rằng tới nay, ảnh do AI tạo ra chưa thể hoàn hảo. Tạp chí Time giải thích các công cụ tạo ảnh AI chỉ đơn giản là sao chép mẫu, chứ chưa thực sự hiểu một vài yếu tố, chẳng hạn như vật lý. Tuy nhiên khi AI tiếp tục cải thiện, xã hội sẽ phải học cách thích nghi và phải làm điều này nhanh chóng trước khi điều gì đó nghiêm trọng xảy ra.
Nhiều người đã chia sẻ các phương pháp phát hiện deepfakes chỉ bằng mắt thường. Nhưng các biện pháp này được xem là sớm lỗi thời trước sự phát triển của công nghệ. Khi mà hình ảnh, âm thanh giả được tạo ra ngày một tinh vi hơn.
AI tạo ra Deepfake, vậy thì nó cũng có thể phát hiện Deepfake
Một số chuyên gia đề xuất nên dựa vào AI để phát hiện deepfake. Bởi nếu AI có thể tạo ra những thứ giả mạo tinh tế, thì nó cũng có thể xây dựng những gì có thể được dùng để phát hiện ra những giả mạo như vậy. Hiện đã có nhiều công cụ giúp phát hiện tính xác thực của hình ảnh, ví dụ Sensity, Deepware Scanner, Microsoft Video Authenticator...
Nhiều nước cũng thông qua các luật nhằm kiểm soát chặt hơn với Deepfake. Ví dụ các nước châu Âu sẽ sửa luật hoặc ra luật mới nhằm ngăn chặn ý đồ xấu, nhưng vẫn cho phép video giải trí hoặc châm biếm để đảm bảo tự do ngôn luận và tự do sáng tác. Một chi tiết quan trọng là bắt buộc các video Deepfake phải thông báo rõ ràng cho người xem, ngay từ đầu và trong toàn bộ video, rằng đó là giả.
Còn đầu năm nay, từ ngày 10/1, Trung Quốc ra đạo luật kiểm soát những công nghệ AI như Deepfake. Đây được cho là bộ luật chi tiết nhất được một quốc gia đưa ra cho tới thời điểm này.
Từ một trò đùa vui, Deepfake có thể dẫn lối cho hình thức lừa đảo vô cùng tinh vi. Chính vì vậy, "Phòng bệnh hơn chữa bệnh", trên hết, chính người dùng nên tự chuẩn bị cho bản thân để ứng phó tốt hơn.