Công nghệ AI chạm giới hạn, buộc OpenAI phải tìm cách đột phá

Minh Nhã (Theo Reuters)
08:11 12/11/2024

OpenAI và các công ty công nghệ trí tuệ nhân tạo (công nghệ AI) khác đang tìm kiếm con đường mới để phát triển AI thông minh hơn khi các phương pháp hiện tại đạt tới giới hạn

Công nghệ AI chạm giới hạn

Các công ty công nghệ AI như OpenAI đang tìm cách vượt qua những thách thức và hạn chế hiện tại của AI trong quá trình phát triển các mô hình ngôn ngữ lớn. Các phương pháp thử nghiệm mới bao gồm việc phát triển các kỹ thuật huấn luyện, sử dụng phương pháp tư duy gần giống với cách suy nghĩ của con người.

OpenAI đang thử nghiệm nhiều phương pháp để vượt qua đã chững hiện tại của công nghệ AI. (Ảnh: Reuters)

Theo chia sẻ từ một tá nhà khoa học AI, nhà nghiên cứu và nhà đầu tư với Reuters, họ tin rằng nền tảng của mô hình O1 mà OpenAI vừa ra mắt có tiềm năng thay đổi cuộc "chạy đua" công nghệ về AI và tạo ra những ảnh hưởng đáng kể đến các nguồn tài nguyên mà các công ty AI đang khao khát, từ năng lượng cho đến loại chip sử dụng.

OpenAI từ chối bình luận về chủ đề này. Kể từ khi ChatGPT trở thành hiện tượng hai năm trước, các công ty công nghệ đã công khai ủng hộ việc "mở rộng quy mô" các mô hình AI bằng cách tăng thêm dữ liệu và tăng sức mạnh tính toán để không ngừng cải thiện mô hình AI. Tuy nhiên, giờ đây, nhiều nhà khoa học AI hàng đầu đang lên tiếng về những giới hạn của triết lý "càng lớn càng tốt".

Ilya Sutskever, đồng sáng lập các phòng thí nghiệm AI như Safe Superintelligence (SSI) và OpenAI, gần đây đã chia sẻ với Reuters rằng kết quả từ việc mở rộng quy mô giai đoạn huấn luyện sơ bộ (pre-training) – giai đoạn huấn luyện một mô hình AI sử dụng lượng lớn dữ liệu không có nhãn để hiểu các mẫu ngôn ngữ – đang dần đạt tới điểm bão hòa.

Sutskever là một trong những người tiên phong ủng hộ ý tưởng đạt được những bước tiến vượt bậc trong AI bằng cách sử dụng nhiều dữ liệu và sức mạnh tính toán hơn trong giai đoạn huấn luyện sơ bộ, phương pháp đã tạo ra ChatGPT. Sutskever đã rời OpenAI đầu năm nay để thành lập SSI.

Thập niên 2010 là thời đại của mở rộng quy mô, còn giờ đây chúng ta đang trở lại thời đại của sự tò mò và khám phá. Giờ đây, việc mở rộng quy mô đúng hướng mới là quan trọng hơn bao giờ hết.

Ilya Sutskever, đồng sáng lập các phòng thí nghiệm AI như Safe Superintelligence (SSI) và OpenAI, nhận định

Sutskever từ chối chia sẻ chi tiết về cách nhóm của ông đang giải quyết vấn đề này, chỉ cho biết rằng SSI đang nghiên cứu một phương pháp thay thế để phát triển quá trình huấn luyện sơ bộ.

Đằng sau "hậu trường", các nhà nghiên cứu tại các phòng thí nghiệm AI hàng đầu đang đối mặt với các giới hạn và kết quả không như mong đợi trong cuộc đua phát triển một mô hình ngôn ngữ lớn hơn, vượt trội hơn GPT-4 của OpenAI. Mô hình hiện đã ra mắt gần hai năm.

Các cuộc huấn luyện cho các mô hình lớn có thể tốn hàng chục triệu đô la vì phải chạy đồng thời hàng trăm con chip. Những hệ thống phức tạp như vậy dễ gặp lỗi phần cứng. Các nhà nghiên cứu có thể không biết rõ hiệu suất cuối cùng của mô hình cho đến khi quá trình chạy hoàn tất, có thể mất vài tháng.

Một vấn đề khác là các mô hình ngôn ngữ lớn tiêu thụ khối lượng dữ liệu khổng lồ, và các nguồn dữ liệu dễ tiếp cận trên thế giới dường như đã cạn kiệt. Thiếu hụt điện năng cũng cản trở các lần huấn luyện, vì quá trình này đòi hỏi năng lượng rất lớn.

Để khắc phục những thách thức này, các nhà nghiên cứu đang khám phá kỹ thuật “tính toán thời gian thử nghiệm,” một phương pháp cải thiện các mô hình AI hiện có trong giai đoạn “suy luận”. Ví dụ, thay vì chọn ngay một câu trả lời duy nhất, mô hình có thể tạo ra và đánh giá nhiều phương án cùng lúc và cuối cùng chọn ra hướng đi tốt nhất.

Phương pháp này cho phép mô hình dành nhiều sức mạnh xử lý hơn cho các nhiệm vụ khó như toán học, lập trình hoặc các thao tác phức tạp đòi hỏi khả năng suy luận và ra quyết định tương tự con người.

Mất chỉ 20 giây suy nghĩ trong một ván poker cũng đã cải thiện hiệu suất ngang bằng với việc tăng quy mô mô hình lên gấp 100.000 lần và huấn luyện trong thời gian dài gấp 100.000 lần.

Noam Brown, một nhà nghiên cứu tại OpenAI, chia sẻ tại hội nghị TED AI ở San Francisco vào tháng trước.

Phát triển chip suy luận thay vì chip huấn luyện

OpenAI đã áp dụng kỹ thuật này trong mô hình mới của mình, có tên là “O1” (trước đây gọi là Q* và Strawberry), mà Reuters đã đưa tin vào tháng 7. Mô hình O1 có khả năng “suy nghĩ” qua các vấn đề theo cách nhiều bước, tương tự như suy luận của con người. Mô hình cũng sử dụng dữ liệu và phản hồi từ các chuyên gia và tiến sĩ. Điểm độc đáo của loạt mô hình O1 là thêm một lớp huấn luyện bổ sung trên các mô hình “cơ bản” như GPT-4, và công ty cho biết họ dự định áp dụng kỹ thuật này với nhiều mô hình cơ bản lớn hơn nữa.

Trong khi đó, các nhà nghiên cứu tại những phòng thí nghiệm AI hàng đầu khác, bao gồm Anthropic, xAI và Google DeepMind, cũng đang phát triển các phiên bản kỹ thuật riêng của mình, theo năm nguồn tin am hiểu về những nỗ lực này.

“Chúng tôi nhận thấy có rất nhiều tiềm năng để cải thiện các mô hình này một cách nhanh chóng,” Kevin Weil, Giám đốc sản phẩm tại OpenAI, phát biểu tại một hội nghị công nghệ vào tháng 10. “Khi mọi người bắt kịp, chúng tôi sẽ cố gắng tiến xa hơn ba bước nữa.”

Google và xAI không phản hồi yêu cầu bình luận, trong khi Anthropic cũng chưa có phản hồi ngay lập tức. Những tác động từ sự chuyển đổi này có thể thay đổi cán cân cạnh tranh trong lĩnh vực phần cứng AI, lĩnh vực vốn đang bị chi phối bởi nhu cầu không ngừng đối với chip AI của Nvidia.

Các nhà đầu tư mạo hiểm nổi tiếng, từ Sequoia đến Andreessen Horowitz, đã đầu tư hàng tỷ đô la để phát triển các mô hình AI tại nhiều phòng thí nghiệm như OpenAI và xAI, cũng đang theo dõi sát sao sự chuyển đổi này và cân nhắc tác động đến các khoản đầu tư của họ.

Sự chuyển đổi này sẽ đưa chúng ta từ thế giới của những hệ thống máy chủ huấn luyện khổng lồ sang các hệ thống đám mây suy luận phân tán, hiểu đơn giản là các hệ thống máy chủ đám mây dành cho suy luận.

Sonya Huang, đối tác tại Sequoia Capital, cho biết trong một cuộc phỏng vấn với Reuters.

Nhu cầu về chip AI của Nvidia, loại chip tiên tiến nhất hiện nay, đã giúp công ty này trở thành công ty có giá trị lớn nhất thế giới, vượt qua Apple vào tháng 10. Khác với chip dùng cho huấn luyện, nơi Nvidia thống lĩnh thị trường, công ty có thể đối mặt với sự cạnh tranh cao hơn trong thị trường chip suy luận.

Khi được hỏi về tác động tiềm năng đối với nhu cầu sản phẩm của mình, Nvidia đã chỉ đến các buổi thuyết trình gần đây của công ty về tầm quan trọng của kỹ thuật đằng sau mô hình o1. CEO Jensen Huang của công ty cũng đã nhắc đến nhu cầu ngày càng tăng đối với việc sử dụng chip của Nvidia cho các tác vụ suy luận.

“Chúng tôi đã khám phá ra một quy luật mở rộng thứ hai, và đây là quy luật mở rộng trong thời kỳ suy luận… Tất cả những yếu tố này đã dẫn đến nhu cầu về chip Blackwell đang ở mức cực kỳ cao,” Huang nói vào tháng trước tại một hội nghị ở Ấn Độ, đề cập đến dòng chip AI mới nhất của Nvidia.

https://sohuutritue.net.vn/cong-nghe-ai-cham-gioi-han-buoc-openai-phai-tim-cach-dot-pha-d250763.html

Tin liên quan

Công nghệ AI hay lao động giá rẻ: Cái nào đắt đỏ hơn?

Công nghệ AI hay lao động giá rẻ: Cái nào đắt đỏ hơn?

Dù nhu cầu về trí tuệ nhân tạo (AI) đang tăng mạnh, việc phát triển các mô hình AI lớn hơn, cần nhiều chip và trung tâm dữ liệu để hỗ trợ, đang khiến chi phí của các công ty công nghệ tăng cao.

Các “gã khổng lồ” công nghệ trước  “cơn khát” năng lượng của AI

Các “gã khổng lồ” công nghệ trước “cơn khát” năng lượng của AI

Lộ diện nhà máy sản xuất linh kiện cho SpaceX của Elon Musk tại Việt Nam

Lộ diện nhà máy sản xuất linh kiện cho SpaceX của Elon Musk tại Việt Nam

Câu chuyện sáng tạo và bản quyền trong thời đại AI

Câu chuyện sáng tạo và bản quyền trong thời đại AI

Cùng chuyên mục

Gần 162,3 nghìn doanh nghiệp thành lập mới trong tháng 10

Gần 162,3 nghìn doanh nghiệp thành lập mới trong tháng 10

Doanh nghiệp

Trong 10 tháng năm 2026, cả nước có gần 162,3 nghìn doanh nghiệp thành lập mới với tổng vốn đăng ký 2.138,8 nghìn tỷ đồng, tăng 34,3% so với cùng kỳ năm trước.

Công ty CP Dược liệu trung ương 2 là công ty gì? Lịch sử hình thành và quá trình phát triển của Dược liệu trung ương 2

Công ty CP Dược liệu trung ương 2 là công ty gì? Lịch sử hình thành và quá trình phát triển của Dược liệu trung ương 2

Doanh nghiệp

Công ty CP Dược liệu trung ương là công ty có 50 năm hoạt động trong lĩnh vực sản xuất và kinh doanh dược phẩm tại Việt Nam.

SeABank hoàn tất tăng vốn điều lệ lên 34.688 tỷ đồng

SeABank hoàn tất tăng vốn điều lệ lên 34.688 tỷ đồng

Doanh nghiệp

Vốn điều lệ của SeABank tăng từ 34.288 tỷ đồng lên 34.688 tỷ đồng, được bổ sung thêm 400 tỷ đồng thông qua phát hành cổ phiếu lựa chọn dành cho người lao động (ESOP).

Vietnam Airlines, Vietjet doanh thu quý 3/2026 'bay cao'

Vietnam Airlines, Vietjet doanh thu quý 3/2026 'bay cao'

Doanh nghiệp

Hai hãng hàng không vừa công bố báo cáo tài chính đều ghi nhận kết quả kinh doanh với những con số ấn tượng, khẳng định vị thế "bay cao".

Cen Land muốn huy động 620 tỷ đồng trái phiếu để cơ cấu nợ

Cen Land muốn huy động 620 tỷ đồng trái phiếu để cơ cấu nợ

Doanh nghiệp

Công ty CP Bất động sản Thế Kỷ (Cen Land, HOSE: CRE) vừa công bố Nghị quyết Hội đồng quản trị số 25/2026/NQ-HĐQT, thông qua phương án phát hành trái phiếu riêng lẻ với tổng giá trị tối đa 620 tỷ đồng.

Nam Long: 9 tháng doanh thu thuần giảm 49%

Nam Long: 9 tháng doanh thu thuần giảm 49%

Doanh nghiệp

Lũy kế 9 tháng đầu năm 2026, Nam Long ghi nhận doanh thu thuần đạt 2.022 tỷ đồng, giảm 49% so với cùng kỳ năm 2025.

Sunshine Group lãi trước thuế hơn 5.900 tỷ đồng: Sức khỏe tài chính ra sao?

Sunshine Group lãi trước thuế hơn 5.900 tỷ đồng: Sức khỏe tài chính ra sao?

Doanh nghiệp

Sunshine Group ghi nhận lợi nhuận trước thuế hơn 5.900 tỷ đồng sau 9 tháng năm 2026. Kết quả này phản ánh khả năng sinh lời, nhưng cơ cấu vốn và dòng tiền mới là yếu tố quyết định sức khỏe tài chính doanh nghiệp.

Tỷ phú Phạm Nhật Vượng góp thêm 11.000 tỷ vào VinFast Việt Nam

Tỷ phú Phạm Nhật Vượng góp thêm 11.000 tỷ vào VinFast Việt Nam

Doanh nghiệp

Báo cáo gửi Ủy ban Chứng khoán Mỹ (SEC) ngày 29/10 của VinFast Auto Ltd. (Nasdaq: VFS) cho biết ông Phạm Nhật Vượng, nhà sáng lập công ty, đã hoàn tất khoản góp vốn bổ sung trị giá 11.000 tỷ đồng (tương đương khoảng 436,4 triệu USD) vào CTCP VinFast Việt Nam (VFVN).

Hòa Phát lần đầu dư nợ vay và nợ thuê tài chính vượt 105.000 tỷ

Hòa Phát lần đầu dư nợ vay và nợ thuê tài chính vượt 105.000 tỷ

Doanh nghiệp

Dù nợ vay tăng lên mức kỷ lục, quy mô vốn chủ sở hữu của Hòa Phát vẫn lớn hơn tổng dư nợ vay tài chính.

Thuduc House lỗ lũy kế gần 940 tỷ đồng

Thuduc House lỗ lũy kế gần 940 tỷ đồng

Doanh nghiệp

TCP Phát triển Nhà Thủ Đức (mã chứng khoán TDH) vừa công bố báo cáo tài chính hợp nhất quý III/2026 với kết quả kinh doanh thua lỗ. Tính đến hết ngày 30/9/2026, công ty lỗ lũy kế 937,7 tỷ đồng.

Vincom Retail hoàn thành 88% kế hoạch năm chỉ sau 9 tháng

Vincom Retail hoàn thành 88% kế hoạch năm chỉ sau 9 tháng

Doanh nghiệp

Vincom Retail nâng lợi nhuận sau thuế lũy kế 9 tháng năm 2026 lên 4.737 tỷ đồng, tăng 25% so với cùng kỳ và hoàn thành 88% kế hoạch năm.

Danh sách nhóm cổ đông sở hữu hơn 8,6% cổ phần tại VIB

Danh sách nhóm cổ đông sở hữu hơn 8,6% cổ phần tại VIB

Doanh nghiệp

Ngân hàng TMCP Quốc tế Việt Nam (VIB) vừa cập nhật danh sách cổ đông sở hữu từ 1% vốn điều lệ trở lên và người có liên quan.

Bất động sản An Gia doanh thu quý 3 giảm 86% so với cùng kỳ

Bất động sản An Gia doanh thu quý 3 giảm 86% so với cùng kỳ

Doanh nghiệp

CTCP Đầu tư và Phát triển Bất động sản An Gia (mã chứng khoán AGG : HoSE) vừa công bố báo cáo tài chính ghi nhận doanh thu thuần gần 23,8 tỷ đồng, giảm 86% so với cùng kỳ năm trước.

Công ty xăng dầu 1.000 tỷ của Vingroup thay Chủ tịch sau một tháng thành lập

Công ty xăng dầu 1.000 tỷ của Vingroup thay Chủ tịch sau một tháng thành lập

Doanh nghiệp

Công ty Cổ phần Vin Oil&Gas Global, doanh nghiệp có vốn điều lệ 1.000 tỷ đồng do Vingroup nắm quyền chi phối, sau 1 tháng thành lập đã điều chỉnh chức danh của người đại diện theo pháp luật từ Tổng giám đốc sang Chủ tịch Hội đồng quản trị.

Sacombank: Lợi nhuận sau thuế giảm hơn 50%, tổng tài sản vượt 1 triệu tỷ đồng

Sacombank: Lợi nhuận sau thuế giảm hơn 50%, tổng tài sản vượt 1 triệu tỷ đồng

Doanh nghiệp

Sacombank ghi nhận lợi nhuận trước thuế quý III/2026 đạt 1.757 tỷ đồng, giảm 51,9%; Tính đến ngày 30/9/2026, tổng tài sản hợp nhất của Sacombank đạt 1.057.398 tỷ đồng, tăng 140.278 tỷ đồng, tương đương 15,3% so với cuối năm 2025.

GELEX vượt 8,8% kế hoạch lợi nhuận năm 2026 sau 9 tháng

GELEX vượt 8,8% kế hoạch lợi nhuận năm 2026 sau 9 tháng

Doanh nghiệp

Lũy kế 9 tháng năm 2026, Tập đoàn GELEX ghi nhận doanh thu thuần hợp nhất 39.158 tỷ đồng, tăng 40,5% so với cùng kỳ; lợi nhuận trước thuế đạt 3.931 tỷ đồng, vượt 8,8% kế hoạch năm.

Microsoft đề nghị 60.000 nhân viên trên toàn thế giới tự nguyện nghỉ việc

Microsoft đề nghị 60.000 nhân viên trên toàn thế giới tự nguyện nghỉ việc

Doanh nghiệp

Microsoft xác nhận đang đề xuất chương trình nghỉ việc tự nguyện kèm theo các gói trợ cấp tài chính cho khoảng 60.000 nhân viên. Con số này tương đương hơn 25% tổng nhân lực toàn cầu của doanh nghiệp tính đến cuối quý 2 năm 2026.

Ông Đinh Chí Hiếu ngồi 'ghế nóng' Sunshine Homes thay Tổng Giám đốc người Hàn Quốc

Ông Đinh Chí Hiếu ngồi 'ghế nóng' Sunshine Homes thay Tổng Giám đốc người Hàn Quốc

Doanh nghiệp

Hội đồng quản trị CTCP Phát triển Sunshine Homes (UPCoM: mã chứng khoán SSH) vừa thông qua nghị quyết miễn nhiệm ông Jun Sungbae khỏi chức vụ Tổng giám đốc, đồng thời bổ nhiệm ông Đinh Chí Hiếu thay thế vị trí này.

Techcombank muốn lập ngân hàng con tại VIFC, tăng vốn góp vào TCGIns

Techcombank muốn lập ngân hàng con tại VIFC, tăng vốn góp vào TCGIns

Doanh nghiệp

Techcombank đang xúc tiến thành lập ngân hàng thương mại TNHH một thành viên do ngân hàng sở hữu 100% vốn tại Trung tâm Tài chính Quốc tế Việt Nam (VIFC).

Dược hậu Giang: Doanh thu sụt giảm, lợi nhuận bốc hơi 53%

Dược hậu Giang: Doanh thu sụt giảm, lợi nhuận bốc hơi 53%

Doanh nghiệp

Báo cáo tài chính quý III/2026 cho thấy, lợi nhuận sau thuế Dược Hậu Giang chỉ đạt 98 tỷ đồng, giảm 53% so với cùng kỳ.

Top 500 doanh nghiệp tư nhân lớn nhất việt nam

Công ty CP Dược liệu trung ương 2 là công ty gì? Lịch sử hình thành và quá trình phát triển của Dược liệu trung ương 2

Công ty CP Dược liệu trung ương 2 là công ty gì? Lịch sử hình thành và quá trình phát triển của Dược liệu trung ương 2

Công ty CP Dược liệu trung ương là công ty có 50 năm hoạt động trong lĩnh vực sản xuất và kinh doanh dược phẩm tại Việt Nam.

ACV là gì và có vai trò như thế nào trong ngành hàng không Việt Nam?

ACV là gì và có vai trò như thế nào trong ngành hàng không Việt Nam?

ACV là viết tắt của Airports Corporation of Vietnam tên giao dịch quốc tế của Tổng công ty Cảng hàng không Việt Nam - CTCP trên cơ sở hợp nhất 3 tổng công ty. ACV được giao quản lý, điều phối hoạt động và đầu tư khai thác toàn bộ hệ thống 22 cảng hàng không trên toàn lãnh thổ Việt Nam bao gồm 9 sân bay quốc tế và 13 sân bay nội địa.

Chứng khoán Vietcap là gì? Công ty CP Vietcap uy tín không? Có nên mở tài khoản tại chứng khoán Bản Việt không?

Chứng khoán Vietcap là gì? Công ty CP Vietcap uy tín không? Có nên mở tài khoản tại chứng khoán Bản Việt không?

Công ty CP Vietcap đứng vị trí 196 trong danh sách 500 doanh nghiệp tư nhân lớn nhất Việt Nam. Chứng khoán Vietcap là gì? Công ty CP Vietcap uy tín không? Có nên mở tài khoản tại chứng khoán Bản Việt không?

Top 500 doanh nghiệp tư nhân lớn nhất việt nam

Công ty CP Dược liệu trung ương 2 là công ty gì? Lịch sử hình thành và quá trình phát triển của Dược liệu trung ương 2

Công ty CP Dược liệu trung ương 2 là công ty gì? Lịch sử hình thành và quá trình phát triển của Dược liệu trung ương 2

Công ty CP Dược liệu trung ương là công ty có 50 năm hoạt động trong lĩnh vực sản xuất và kinh doanh dược phẩm tại Việt Nam.

ACV là gì và có vai trò như thế nào trong ngành hàng không Việt Nam?

ACV là gì và có vai trò như thế nào trong ngành hàng không Việt Nam?

ACV là viết tắt của Airports Corporation of Vietnam tên giao dịch quốc tế của Tổng công ty Cảng hàng không Việt Nam - CTCP trên cơ sở hợp nhất 3 tổng công ty. ACV được giao quản lý, điều phối hoạt động và đầu tư khai thác toàn bộ hệ thống 22 cảng hàng không trên toàn lãnh thổ Việt Nam bao gồm 9 sân bay quốc tế và 13 sân bay nội địa.

Chứng khoán Vietcap là gì? Công ty CP Vietcap uy tín không? Có nên mở tài khoản tại chứng khoán Bản Việt không?

Chứng khoán Vietcap là gì? Công ty CP Vietcap uy tín không? Có nên mở tài khoản tại chứng khoán Bản Việt không?

Công ty CP Vietcap đứng vị trí 196 trong danh sách 500 doanh nghiệp tư nhân lớn nhất Việt Nam. Chứng khoán Vietcap là gì? Công ty CP Vietcap uy tín không? Có nên mở tài khoản tại chứng khoán Bản Việt không?

Chứng khoán

Tỷ giá

Ngoại tệ Mua Bán
Tiền mặt Chuyển khoản
Cập nhật: