AI đang 'xả rác' vào xuất bản học thuật?

Ảnh: ET

Đầu năm nay, một bài báo đăng trên tạp chí khoa học thuộc nhà xuất bản Frontiers đã dấy lên nhiều chỉ trích trên mạng xã hội. Theo đó, một hình đồ họa đăng kèm trong bài do AI tạo ra có vẽ một con chuột có bộ phận sinh dục lớn một cách vô lý.

Trong một trường hợp khác, một hình ảnh minh họa chân người lại có nhiều xương hơn bình thường. Hay một bài báo khoa học khác đến từ một tạp chí trực thuộc nhà xuất bản học thuật Elsevier lại có mở đầu giống cách ChatGPT thường đưa ra câu trả lời cho người dùng: “Chắc chắn rồi, dưới đây có thể là lời mở đầu cho chủ đề bạn đã hỏi".

Hình ảnh minh họa dấy lên nhiều tranh cãi. Ảnh: X.

Đây chỉ là một số ví dụ đáng chú ý về sự tham gia của AI trong các bài báo khoa học, minh họa rõ hơn làn sóng cả nội dung và hình ảnh do AI tạo ra đang tràn ngập ngành xuất bản học thuật.

Trong khi nhiều chuyên gia đều cho rằng các chương trình AI như ChatGPT có thể là một công cụ hữu ích để viết hoặc dịch các bài báo khi có sự kiểm tra và kiểm duyệt kỹ lưỡng, thì công cụ này lại không phát huy được vai trò tích cực như vậy trong các vụ bê bối gần đây. Thay vào đó, chúng khiến các bài báo có liên quan bị chỉ trích và phải rút lại.

Tạp chí thuộc Frontiers đã phải rút lại bài báo có hình đồ họa con chuột không phù hợp. Nghiên cứu có hình đồ họa AI mô phỏng đôi chân có nhiều xương cũng có số phận tương tự.

Làn sóng các sản phẩm học thuật từ AI

Với sự xuất hiện tràn lan các công cụ AI, việc phát hiện các bài báo khoa học có sử dụng AI ngày càng khó khăn. Ngay cả các công cụ kiểm tra đôi khi vẫn đưa ra kết quả trái ngược nhau cho cùng một bài báo.

Tuy nhiên, với ChatGPT, một số học giả nhận thấy nền tảng này có xu hướng ưu tiên một vài từ/ cụm từ nhất định. Andrew Gray, thủ thư tại Đại học University College London, đã rà soát hàng triệu bài báo và nhận thấy tần suất sử dụng các từ như tỉ mỉ, phức tạp hoặc đáng khen ngợi tăng mạnh.

Số lượng các bài báo khoa học có nội dung AI được dự đoán ngày càng tăng. Ảnh: X.

Từ đó, ông xác định được ít nhất 60.000 bài báo liên quan đến việc sử dụng AI vào năm 2023, chiếm hơn 1% tổng số bài báo xuất bản trong năm.

"Trong năm 2024, chúng ta sẽ thấy số lượng còn tăng nhiều hơn nữa", ông Gray nói.

Trong khi đó, đã có hơn 13.000 bài báo bị rút lại vào năm ngoái, con số cao nhất từ ​​trước đến nay, theo số liệu của nhóm theo dõi các bài báo học thuật Retraction Watch.

Ivan Oransky, đồng sáng lập Retraction Watch có trụ sở tại Mỹ, thông tin rằng AI đã cho phép những kẻ xấu trong lĩnh vực xuất bản khoa học và học thuật đẩy nhanh quá trình "công nghiệp hóa" các bài báo "rác".

Trong giới học thuật, không phải tạp chí học thuật nào cũng có danh tiếng như nhau. Ngoài phần lớn tạp chí uy tín, vẫn có một số đơn vị được gọi là “tạp chí săn mồi” với nhiều “lò bán bài”.

Nhà nghiên cứu người Hà Lan Elisabeth Bik, người đã tìm ra nhiều hình ảnh khoa học chất lượng kém, cho biết các “tạp chí săn mồi” và “lò bán bài” không chỉ viết hộ cho những nhà nghiên cứu có nhu cầu, mà còn xuất bản các bài báo khoa học chất lượng rất kém, đạo văn hoặc giả mạo nghiên cứu.

Số lượng bài báo kém chất lượng này hiện chiếm 2% trong tổng số nghiên cứu đã được xuất bản. Và tỷ lệ này thậm chí sẽ còn "bùng nổ" hơn nữa với sự tham gia của AI, bà Bik dự đoán.

Trên thực tế, dư luận đã chú ý đến chất lượng kém của các bài báo nghiên cứu kể từ khi “ông lớn” trong xuất bản học thuật Wiley mua lại nhà xuất bản gặp khó khăn Hindawi vào năm 2021.

Kể từ đó, Wiley đã phải thu hồi hơn 11.300 bài báo được đăng trên các ấn bản đặc biệt của Hindawi, một phát ngôn viên của Wiley thông tin với báo chí.

Giao diện một "tạp chí săn mồi" với nhiều lỗi sai (được tìm ra bên phải) ngay trong phần giới thiệu. Ảnh: Medium.

Trước tình trạng này, vào tháng 3 năm nay, Wiley đã giới thiệu "dịch vụ phát hiện các ‘lò bán bài’" để phát hiện những dấu hiệu bất thường trong nội dung nghiên cứu, bao gồm việc sử dụng các công cụ AI.

'Vòng luẩn quẩn'?

Trong khi hiệu quả của dịch vụ trên vẫn cần được đánh giá, thì ông Oransky nhấn mạnh rằng vấn đề không chỉ nằm ở hoạt động của các “lò bán bài” hay sử dụng AI, mà còn nằm tại bối cảnh chung của xuất bản học thuật, đang buộc các nhà nghiên cứu "xuất bản hoặc diệt vong".

Để sinh tồn trong giới học thuật, các học giả phải liên tục công bố công trình nghiên cứu. Việc không có tác phẩm trong một khoảng thời gian có thể khiến họ giảm sút danh tiếng, hạ thấp hồ sơ nghiên cứu hoặc thậm chí mất việc. Do đó, họ phải tìm mọi cách đảm bảo chỉ tiêu xuất bản báo, chưa kể đến việc tăng số lượng bài nhằm có thêm danh tiếng.

"Các nhà xuất bản đã tăng được biên độ doanh thu 30-40% và mang về hàng tỷ USD lợi nhuận khi tham gia duy trì khối lượng bài báo khoa học lớn như vậy. Còn với các học giả, sức ép xuất bản không ngừng nghỉ cũng đẩy họ vào một ‘vòng luẩn quẩn’”, ông Oransky nói.

Do đó, khi AI xuất hiện, nhiều học giả đã nhanh chóng sử dụng công cụ này để tiết kiệm thời gian. AI không hẳn là điều xấu vì các công cụ dịch AI rất có ích cho các nhà nghiên cứu, đặc biệt là những người không sử dụng tiếng Anh như ngôn ngữ mẹ đẻ.

Tuy nhiên, cũng có nhiều lo ngại rằng các lỗi sai, hành vi đạo văn hoặc thông tin không chính xác của AI có thể làm xói mòn lòng tin của xã hội vào giới khoa học.

Một ví dụ khác về việc sử dụng AI sai mục đích xảy ra vào đầu tháng này. Một học giả tại Mỹ tình cờ phát hiện ra nghiên cứu của chính ông, đã được công bố rộng rãi, một lần nữa được ChatGPT chỉnh sửa lại và nộp gửi lên để xuất bản.

Samuel Payne, giáo sư sinh-tin học tại Đại học Brigham Young, đã nhận được đề nghị bình duyệt chính nghiên cứu này. Sau khi nhận ra nội dung bài báo đạo văn 100% của ông và được AI chỉnh sửa lại nội dung, ông đã từ chối thông qua.

Tuy nhiên, ông một lần nữa “sốc” khi phát hiện ra tác phẩm này lại được xuất bản ở một nơi khác, trên một tạp chí của Wiley có tên là Proteomics.

Nghề hướng dẫn xuất bản sách 'rác' trên Amazon Trên nền tảng Amazon đang tràn ngập sách điện tử chất lượng kém. Theo Vox, một phần nguyên nhân của tình trạng trên là sự phát triển của AI và chiến lược tăng doanh thu “ăn nhanh”. 06:17 25/4/2024

Loạt tác giả than phiền về nạn sách giả do AI tạo ra Theo trang Today, sự phát triển mạnh mẽ của AI khiến những kẻ lừa đảo dễ dàng hơn trong việc mạo danh tác giả và phát tán lậu nhiều ấn phẩm trên không gian trực tuyến. 08:00 4/3/2024