Trí tuệ nhân tạo đẩy ngành xuất bản vào tình trạng hỗn loạn

Ngay sau khi một tác giả mới nổi ký được hợp đồng xuất bản sách trị giá hàng triệu đôla, người đại diện của tác giả đã đột ngột hủy bỏ dự án. Họ cho biết không thể tiếp tục hỗ trợ dự án vì không thể xác minh rằng toàn bộ cuốn sách do người họ làm đại diện viết ra.

“Điều này đặt ra rất nhiều câu hỏi về quyền tác giả và ý nghĩa của trí tuệ nhân tạo đối với ngành công nghiệp này”, đại lý bản quyền Europa Content nói với các nhà xuất bản trong một bức thư hồi tháng 7 sau khi có cáo buộc về việc sử dụng trí tuệ nhân tạo xoay quanh cuốn tiểu thuyết trinh thám Call Me, I'll Hide the Body của Jerry Falade.

Ba trường hợp chưa có tiền lệ khiến ngành xuất bản bối rối

Với những vụ bê bối AI trong ngành xuất bản liên tiếp xảy ra hàng tháng, dường như việc trả lời những câu hỏi trên càng khó trì hoãn.

Những vụ sụp đổ của các hợp đồng xuất bản sách lớn do nghi ngờ sử dụng AI - và nỗi lo sợ về người tiếp theo có thể là nạn nhân - đang buộc ngành công nghiệp này phải xem xét lại bản chất của việc viết sách, mối quan hệ giữa nhà văn và nhà xuất bản, cũng như sự tồn tại lâu dài của ngành. Nhưng dường như không ai có thể thống nhất ai là người chịu trách nhiệm giải quyết vấn đề này, hoặc thậm chí vấn đề này thực sự nghiêm trọng đến mức nào.

Năm ngoái, 70 tác giả, trong đó có Margaret Atwood và Jonathan Franzen, đã ký một bức thư ngỏ gửi các nhà xuất bản bày tỏ lo ngại về trí tuệ nhân tạo tạo sinh và yêu cầu họ “cam kết sẽ không bao giờ phát hành những cuốn sách được tạo ra bởi máy móc”.

Tuy nhiên, năm nhà xuất bản lớn nhất - Simon & Schuster, Penguin Random House, HarperCollins, Hachette Book Group và Macmillan - phần lớn vẫn ngần ngại đưa ra những tuyên bố mạnh mẽ về một công nghệ vừa có tiềm năng sinh lợi cao vừa ngày càng phổ biến. (Nhiều nhà xuất bản trong số đó cũng đang vướng vào các vụ kiện chống lại các công ty công nghệ vì đã huấn luyện mô hình của họ trên các cuốn sách có bản quyền).

Thay vào đó, họ lại phải vội vàng giải quyết các vấn đề khi những vụ bê bối liên quan đến việc sử dụng AI gây tổn hại đến danh tiếng đến mức không thể bỏ qua.

Falade, một sinh viên cao học của Đại học Southern Methodist, đã phủ nhận những cáo buộc về cuốn tiểu thuyết của mình, cho rằng chúng mang động cơ phân biệt chủng tộc. "Điều này thật tồi tệ đối với tôi", anh nói trong một cuộc phỏng vấn. "Tôi không thể ngủ ngon, không thể ăn uống gì cả", tác giả Falade nói.

Vào tháng 3, Hachette Book Group đã hủy bỏ việc phát hành tại Mỹ cuốn sách Shy Girl của Mia Ballard. Cuốn tiểu thuyết kinh dị bị cáo buộc rằng tác giả đã sử dụng trí tuệ nhân tạo (AI) trong quá trình viết.

Ballard, người ban đầu tự xuất bản cuốn tiểu thuyết trước khi Hachette mua lại bản quyền, đã phủ nhận những cáo buộc này, nói rằng AI được sử dụng bởi một người quen đã biên tập cuốn sách. “Hachette vẫn cam kết bảo vệ sự thể hiện sáng tạo và nghệ thuật kể chuyện nguyên bản”, nhà xuất bản cho biết trong một tuyên bố vào thời điểm đó.

Tháng trước, tạp chí Atlantic viết rằng cuốn Daggermouth, một tiểu thuyết lãng mạn viễn tưởng tự xuất bản đã được nhà xuất bản Simon & Schuster mua bản quyền, liên tục đứng đầu các danh sách bán chạy nhất, có những dấu hiệu của việc sử dụng trí tuệ nhân tạo (AI).

Bài báo trích dẫn một nghiên cứu của giáo sư Tuhin Chakrabarty thuộc Đại học Stony Brook, người đã sử dụng công cụ phát hiện AI Pangram để phân tích cuốn sách.

“Chúng tôi không tin rằng nên đưa ra kết luận về tác phẩm của một tác giả dựa trên các công cụ nhận diện bằng trí tuệ nhân tạo đã được chứng minh là tạo ra kết quả sai”, một phát ngôn viên của Simon & Schuster cho biết. “HM Wolfe đã viết Daggermouth, và chúng tôi ủng hộ tác giả cùng tác phẩm của bà ấy”.

Max Spero, CEO, đồng sáng lập kiêm người tự xưng là "người dọn dẹp bãi rác" của Pangram, cho biết tỷ lệ chính xác cao của công cụ này đã được xác nhận bởi nhiều nghiên cứu của bên thứ ba.

“Tại sao Simon & Schuster lại ngừng xuất bản? Rõ ràng nó đã đạt được thành công rất lớn. Mọi người đều thích nó”, Chakrabarty nói. “Có một khía cạnh lớn hơn liên quan đến khía cạnh thương mại của tiểu thuyết được tạo ra bằng trí tuệ nhân tạo, và liệu các tổ chức có thực sự quan tâm đến việc duy trì tiêu chuẩn đó hay không?”.

Trong thời điểm mà hầu hết mọi người đọc ngày càng ít, các nhà xuất bản thường tìm kiếm những tác phẩm tự xuất bản đã có lượng độc giả nhất định, một lĩnh vực mà các đại lý và biên tập viên cho rằng việc sử dụng AI đặc biệt phổ biến.

Nhưng các tác giả tự xuất bản không phải là những người duy nhất sử dụng các công cụ này. Vào tháng 5, tác giả Steven Rosenbaum, người được xuất bản bởi một chi nhánh của BenBella Books, đã bị chỉ trích khi tờ New York Times phát hiện ông đã đưa những trích dẫn do AI tạo ra vào cuốn sách Tương lai của sự thật: AI định hình lại thực tại như thế nào. Ông đã công khai việc sử dụng phần mềm mô phỏng ngôn ngữ (LLM) như một nguồn tham khảo trong phần lời cảm ơn của cuốn sách.

“Với tốc độ phát triển chóng mặt của thế giới và ngành xuất bản, dường như việc những chuyện như thế này xảy ra nhiều hơn nữa là điều không thể tránh khỏi”, Paul Bogaards, một chuyên gia lâu năm trong lĩnh vực quảng bá và tiếp thị sách, cho biết, đồng thời lưu ý rằng các nhà xuất bản đang tự hỏi “chúng ta cần những biện pháp bảo vệ nào để tránh việc này xảy ra lần nữa?”.

Một giám đốc điều hành tại một trong năm nhà xuất bản lớn nhất cho biết họ đã quyết định không đưa điều khoản cụ thể về trí tuệ nhân tạo vào hợp đồng, do bối cảnh này đang thay đổi nhanh chóng, và các quy chuẩn khác nhau giữa các thương hiệu và nhà biên tập.

“Trí tuệ nhân tạo không thể thay thế sự sáng tạo của con người”, một phát ngôn viên của Penguin Random House cho biết. “Chúng tôi xem trí tuệ nhân tạo là một công cụ có thể hỗ trợ một số quy trình xuất bản nhất định, nhưng không phải là sự thay thế cho các tác giả, họa sĩ minh họa, chuyên gia xuất bản hay trí tuệ và khả năng phán đoán của con người, những yếu tố tạo nên các cuốn sách của chúng ta”.

Sự tràn lan của những cuốn sách kém chất lượng

Andy Hunter, người sáng lập kiêm CEO của Bookshop.org, cho rằng những cuộc tranh luận về ranh giới giữa các tác giả riêng lẻ đã che khuất một vấn đề lớn hơn nhiều: Sự tràn lan của những cuốn sách kém chất lượng trên mạng.

“Có lẽ 99% những cuốn sách này được viết ra nhằm mục đích lừa khách hàng mua những sản phẩm đạo văn, chứa đầy thông tin sai lệch hoặc nội dung cực kỳ sơ sài”, Hunter nói.

Nghiên cứu của Chakrabarty cũng phát hiện ra rằng 20% ​​sách điện tử của Amazon trong tập dữ liệu của họ có sự hỗ trợ "đáng kể" của trí tuệ nhân tạo. Nhà bán lẻ trực tuyến này cho biết họ đang thực hiện các biện pháp để xóa bỏ nội dung vi phạm các nguyên tắc của mình.

James Daunt, Giám đốc điều hành của Barnes & Noble, đã nhận phải sự chỉ trích sau khi phát biểu trên chương trình “Today” hồi tháng 5 rằng nếu khách hàng muốn mua sách trí tuệ nhân tạo, “thì chúng tôi sẽ bày bán chúng”.

Trong một cuộc phỏng vấn, ông đã làm rõ phát ngôn của mình. "Điều tôi muốn nói trước đó là hiện tại chúng tôi không làm vậy", ông nói. "Chúng tôi nỗ lực hết sức để không bán chúng". Barnes & Noble sẽ gỡ bỏ những cuốn sách khỏi cửa hàng trực tuyến nếu phát hiện chúng được tạo ra bởi trí tuệ nhân tạo.

“Những cuốn sách mà tôi muốn xuất bản là những cuốn sách nói lên điều gì đó độc đáo và khác biệt so với những gì đã có trên thế giới, và tôi không nghĩ trí tuệ nhân tạo sẽ tạo ra được những cuốn sách như vậy”, Cindy Spiegel, đồng Giám đốc điều hành của nhà xuất bản độc lập Spiegel and Grau, cho biết.

Nhưng, “nếu có một tác phẩm nào đó thực sự xuất sắc và mang lại ý nghĩa sâu sắc, và tôi nhận được lợi ích từ nó, thì tôi nghĩ nó đáng để đưa vào danh mục xuất bản của chúng tôi” (mặc dù, bà lưu ý, những tác phẩm này luôn cần có lời tuyên bố rõ ràng).

Hiện tại, dư luận vẫn phần lớn phản đối việc sử dụng AI để tạo văn bản, mặc dù việc sử dụng nó cho nghiên cứu và lập dàn ý đang trở nên được chấp nhận hơn. Nếu hóa ra mọi người sẵn sàng đọc sách do AI tạo ra hoặc hỗ trợ, đặc biệt là trong các thể loại như giả tưởng và khoa học viễn tưởng, nơi độc giả đọc sách rất nhanh, thì các nhà xuất bản không muốn bỏ lỡ một nguồn doanh thu tiềm năng trong một thế giới mà những nguồn doanh thu như vậy rất hiếm hoi.

“Hiện tại chưa có tiêu chuẩn nào cho vấn đề này”, Amanda Annis, một người đại diện tại Trident Media Group, cho biết. Vị đại diện này nhận định: “Có quá nhiều vùng xám chưa được làm rõ”.

Trong nỗ lực chống lại tình trạng tràn lan các tác phẩm kém chất lượng, Hiệp hội Tác giả Mỹ đã giới thiệu chứng nhận "do con người viết" mà các tác giả có thể thêm vào sách của mình sau khi ký cam kết. Tuy nhiên, một số người cảm thấy rằng bất cứ điều gì dựa trên hệ thống danh dự đều thiếu tính hiệu quả cần thiết để giải quyết một vấn đề có phạm vi ảnh hưởng rộng lớn như vậy.

Ngành xuất bản từ lâu đã dựa trên sự tin tưởng. Các biên tập viên tin tưởng tác giả sẽ xác nhận tính chính xác và tính nguyên bản của tác phẩm. Việc thiếu các cơ chế kiểm soát chặt chẽ trở thành chủ đề bàn luận mỗi khi xảy ra bê bối đạo văn hoặc khi tính chân thực của một cuốn hồi ký bị nghi ngờ, và nhiều người lo ngại rằng trí tuệ nhân tạo (AI) sẽ là một bài kiểm tra căng thẳng khác, làm lộ rõ ​​hơn những điểm yếu cố hữu của ngành này.

Các đại lý, những người đóng vai trò trung gian giữa tác giả và nhà xuất bản, giờ đây lại phải đứng ở tuyến đầu. “Tôi nghĩ rằng các đại lý và biên tập viên hiện được yêu cầu đóng vai trò như cảnh sát”, Emma Dries, một đại lý của Triangle House Literary, cho biết. Cô nói rằng hộp thư đến của mình đã bị ngập tràn bởi nhiều yêu cầu hơn bao giờ hết, mà cô cho là do các nhà văn sử dụng phần mềm quản trị (LLM) để gửi thư rác hàng loạt cho các đại lý, và cô cũng nhận được những bản thảo dường như được tạo ra bởi trí tuệ nhân tạo (AI).

Gần đây, cô ấy đã từ chối một tác giả viết sách phi hư cấu mà cô ấy rất thích, sau khi người này thừa nhận thường xuyên sử dụng trí tuệ nhân tạo - không phải để viết, họ nói, mà là để tìm cảm hứng. “Tôi chắc chắn người đó sẽ tìm được người đại diện và được xuất bản, và tôi không biết liệu chuyện đó có bao giờ được bàn đến hay không”, cô ấy nói.

“Khi tôi thấy một tác phẩm thực sự tệ, đó quả là một luồng gió mới”, Angeline Rodriguez, một người đại diện tại WME, cho biết, đồng thời nhận xét rằng một số bản thảo mà cô nhận được hiện nay “khiến 50 sắc thái trông như tác phẩm của Tolstoy vậy”.

Một số người đại diện đơn giản là không hỏi - và hy vọng vấn đề đó sẽ không được đề cập. Những người khác lại có lập trường cứng rắn, nói với các tác giả rằng họ sẽ không đại diện cho bất kỳ ai sử dụng AI, ngay cả trong nghiên cứu. Và những người khác đang sử dụng phần mềm phát hiện AI để kiểm duyệt bản thảo, mặc dù độ chính xác của các công cụ này vẫn còn là một chủ đề gây tranh cãi.

“Có rất nhiều lo lắng”, Regina Brooks, Giám đốc điều hành của Serendipity Literary Agency và chủ tịch Hiệp hội các đại lý văn học Mỹ (AALA) cho biết. “Mọi người lo lắng rằng họ đã dành rất nhiều thời gian cho một bản thảo và rồi họ có thể đã đưa một chi tiết nào đó từ nghiên cứu vào và họ đang rất hoảng sợ liệu điều này có bị coi là không được bảo hộ bản quyền hay không”.

Việc văn bản do AI tạo ra không thể được bảo hộ bản quyền đã trở thành một trong những ranh giới cứng rắn mà ngành công nghiệp này có thể thực thi. Mọi thứ khác, ngoài việc sao chép và dán trực tiếp các câu từ một luận văn thạc sĩ luật vào bản thảo của bạn, đều nằm trong vùng xám.

“Tất cả chúng ta đều đang cố gắng đưa ra hướng dẫn trong quá trình này, nhưng thực sự cảm thấy những mối lo ngại tháng này khác so với tháng trước”, Hannah Bowman, một chuyên viên tại Liza Dawson Associates kiêm chủ tịch Ủy ban đặc biệt về Trí tuệ nhân tạo của AALA, cho biết.

Các nhà xuất bản và biên tập viên đều biết rằng chỉ là vấn đề thời gian trước khi xảy ra vụ bê bối AI lớn tiếp theo. "Điều an ủi duy nhất là, ơn Chúa, chúng ta vẫn đang hủy bỏ những cuốn sách đó", như lời đại diện một nhà xuất bản sợ AI đã nói.