THỊ PHI NEWS

Ngày 10 tháng 8 năm 2024 – Sau khi OpenAI cho ra mắt ChatGPT vào tháng 11/2022, nhiều trường học đã cấm học sinh sử dụng công cụ này do lo ngại gian lận. Mặc dù hiện tại chưa có công cụ nào xác định chính xác văn bản do AI tạo ra, nhưng theo WSJ, OpenAI đang phát triển một công cụ phát hiện văn bản tạo bởi ChatGPT với độ chính xác lên đến 99,9%.

Công Cụ Phát Hiện Văn Bản AI

Công cụ này hoạt động bằng cách tạo ra một “dấu vết” không thể nhìn thấy bằng mắt thường trên văn bản do AI tạo ra. Dấu vết này, gọi là watermark, có thể được phát hiện bằng công nghệ chuyên dụng, giúp xác định chính xác văn bản có phải do ChatGPT tạo ra hay không. Đặc biệt, công cụ có thể đưa ra tỷ lệ phần trăm văn bản do ChatGPT tạo ra, từ toàn bộ tài liệu đến một phần cụ thể.

Những Thách Thức Đối Với Công Cụ Phát Hiện

Mặc dù công cụ này được kỳ vọng sẽ giúp chống gian lận, nhưng cũng có một số thách thức. Một số nhân viên OpenAI lo ngại rằng phương pháp này có thể bị qua mặt bằng các kỹ thuật như dịch ngược văn bản hoặc thêm biểu tượng cảm xúc. Hơn nữa, việc quyết định ai sẽ được cấp quyền sử dụng công cụ cũng đang được cân nhắc cẩn thận để tránh việc lạm dụng hoặc giải mã kỹ thuật watermark.

Công Cụ Tương Tự và Tình Hình Hiện Tại

Ngoài OpenAI, Google cũng đang phát triển công cụ phát hiện văn bản AI gọi là SynthID, hiện đang trong giai đoạn thử nghiệm. Đồng thời, OpenAI cũng đang tập trung vào việc phát hiện hình ảnh và âm thanh do AI tạo ra, đặc biệt trong bối cảnh năm bầu cử tại Mỹ.

Phản Hồi Từ Người Dùng

Kết quả khảo sát cho thấy khoảng 1/3 người dùng ChatGPT có thể từ bỏ công cụ này nếu công cụ phát hiện gian lận được triển khai. Một nghiên cứu khác cho thấy 69% người dùng lo ngại rằng công nghệ phát hiện gian lận có thể dẫn đến cáo buộc sai lầm.

OpenAI vẫn đang xem xét các phương án tiếp cận khác để phát triển công cụ chống gian lận mà không gây tranh cãi. Mọi thứ hiện vẫn chưa có hướng đi rõ ràng.

Tags: #OpenAI #ChatGPT #CôngCụPhátHiện #AI #CôngNghệ #GianLận #VănBảnAI

Nguồn: WSJ