Microsoft phát hành GigaPath-Flash và GigaTIME-Flash cho AI bệnh lý học hiệu quả
Các mô hình bệnh lý học trọng số mở của Microsoft giảm 50× mức tính toán trên toàn bộ lát cắt và gần 8× mức sử dụng bộ nhớ cho proteomics không gian.
Mục lục · 11
- 1. Hai mô hình nhỏ hơn cho các tác vụ bệnh lý học khác nhau
- 2. Các benchmark cho thấy điều gì
- 3. Mức giảm tính toán ở quy mô quần thể
- 4. Bản phát hành trọng số mở với các điều kiện thực tế
- Câu hỏi thường gặp
- Sự khác biệt giữa GigaPath-Flash và GigaTIME-Flash là gì?
- GigaPath-Flash nhỏ hơn bao nhiêu?
- Các mô hình có phải là mã nguồn mở không?
- Bệnh viện có thể sử dụng các mô hình để chăm sóc bệnh nhân không?
- Nghiên cứu Flash đã được phản biện bình duyệt chưa?
- Tham khảo nguồn
Microsoft Research đã phát hành GigaPath-Flash và GigaTIME-Flash, hai mô hình bệnh lý học nhỏ hơn được thiết kế để đưa việc phân tích toàn bộ lát cắt và proteomics không gian ảo trở nên khả thi trên các nhóm đối tượng nghiên cứu lớn hơn nhiều.
Kết quả nổi bật là mức giảm mạnh về tính toán thay vì một năng lực lâm sàng mới. GigaPath-Flash giữ được 97% hiệu năng trung bình của GigaPath gốc trên hai benchmark phân loại lát cắt, trong khi sử dụng số phép tính dấu phẩy động ít hơn khoảng 49.5 lần. Trong các thử nghiệm được báo cáo, GigaTIME-Flash vượt hiệu năng dự đoán protein trung bình của GigaTIME gốc, đồng thời chạy nhanh hơn khoảng sáu lần và dùng bộ nhớ GPU ít hơn gần tám lần ở kích thước batch lớn nhất được thử nghiệm.
Microsoft công bố thông báo vào ngày 31 tháng 8 năm 2026. Báo cáo kỹ thuật đi kèm lần đầu được gửi lên arXiv vào ngày 20 tháng 7 và được sửa đổi vào ngày 22 tháng 7. Các mô hình là công trình hợp tác giữa Microsoft Research, University of Washington, Providence Genomics, Providence Cancer Institute và Providence Research Network.
1. Hai mô hình nhỏ hơn cho các tác vụ bệnh lý học khác nhau
GigaPath-Flash chuyển một lát cắt bệnh lý học gigapixel thành các biểu diễn có thể hỗ trợ những tác vụ nghiên cứu phía sau như phân loại khối u. Tương tự GigaPath gốc, mô hình xử lý một lát cắt theo hai giai đoạn: bộ mã hóa tile trích xuất đặc trưng thị giác cục bộ, còn bộ mã hóa lát cắt kết hợp các đặc trưng đó với vị trí không gian của chúng để mô hình hóa ngữ cảnh trên toàn mô.
Phiên bản Flash thay bộ mã hóa tile ViT-g khoảng một tỷ tham số của GigaPath bằng mô hình ViT-S/16 có 22 triệu tham số. Mỗi tile 224-by-224-pixel trở thành một embedding 384 chiều. Một bộ mã hóa lát cắt LongNet 12 lớp riêng biệt, chứa khoảng 21 triệu tham số, sau đó đặt các embedding vào ngữ cảnh bằng attention giãn cách, có độ phức tạp tuyến tính theo số lượng tile.
Bộ mã hóa nhỏ hơn được chưng cất từ mô hình một tỷ tham số đã đóng băng thay vì được huấn luyện độc lập. Các nhà nghiên cứu sử dụng mục tiêu tự giám sát DINOv2 trên ảnh toàn bộ lát cắt từ Providence, chuyển các biểu diễn từ mô hình teacher lớn hơn sang mô hình student gọn nhẹ. Bộ mã hóa lát cắt sau đó được tiền huấn luyện bằng masked autoencoding, học cách tái tạo biểu diễn của một tile từ vùng lát cắt xung quanh.
GigaTIME-Flash phục vụ một mục đích khác. Mô hình nhận các tile ảnh hematoxylin-and-eosin thường quy, hay H&E, và dự đoán bản đồ không gian cho 21 kênh protein vốn thường được đo bằng miễn dịch huỳnh quang đa kênh. Bản triển khai được phát hành tạo ra 23 kênh đầu ra, gồm hai kênh nền.
GigaTIME gốc sử dụng kiến trúc U-Net++ tích chập với chín triệu tham số. Thay vào đó, GigaTIME-Flash kết hợp bộ mã hóa ViT-S đã được chưng cất với bộ giải mã tích chập hai triệu tham số, tổng cộng khoảng 23.8 triệu tham số. Các đặc trưng từ bốn lớp transformer cung cấp đầu vào cho các giai đoạn giải mã kế tiếp, duy trì chi tiết không gian trong khi phần lớn tính toán diễn ra ở biểu diễn token độ phân giải thấp hơn.
Chỉ các adapter LoRA và bộ giải mã được huấn luyện trong quá trình thích nghi; các tham số bộ mã hóa còn lại vẫn bị đóng băng. Cấu hình được báo cáo sử dụng LoRA rank 8, hệ số scaling 16 và dropout 0.1. Quá trình huấn luyện chạy 300 epoch trên phần cứng NVIDIA A100 với cùng dữ liệu như phép so sánh GigaTIME gốc.
2. Các benchmark cho thấy điều gì
GigaPath-Flash được đánh giá trên hai bộ dữ liệu phân loại ở cấp lát cắt công khai. PANDA kiểm tra dự đoán cấp độ ung thư tuyến tiền liệt sáu lớp, trong khi EBRAINS bao phủ 30 phân nhóm khối u não.
Với một lát cắt EBRAINS chứa 31,469 tile, các nhà nghiên cứu ước tính GigaPath-Flash cần 290.3 TFLOPs, so với 14,367.3 TFLOPs của GigaPath gốc. Chỉ số kappa có trọng số bậc hai trên PANDA của mô hình là 0.947, so với 0.965 của GigaPath; trong khi balanced accuracy trên EBRAINS là 0.705, so với 0.741.
Lấy trung bình hai điểm số này cho kết quả 0.826 đối với GigaPath-Flash và 0.853 đối với GigaPath. Đây là cơ sở cho tuyên bố của Microsoft rằng mô hình nhỏ hơn giữ lại khoảng 97% hiệu năng trung bình của GigaPath.
GigaPath-Flash cũng vượt tất cả baseline chỉ dùng tile được đưa vào nghiên cứu trên cả hai benchmark. Các mô hình đó cần thêm một thành phần multiple-instance learning dựa trên attention để kết hợp các biểu diễn tile độc lập. Trong số các mô hình được đánh giá đã tiền huấn luyện ở cấp toàn bộ lát cắt, GigaPath-Flash có chi phí suy luận ước tính thấp nhất.
Các so sánh này vẫn hẹp hơn một đánh giá bệnh lý học tổng quát. Các nhà nghiên cứu tạo các tập chia train, validation và test tùy chỉnh, huấn luyện từng mô hình phía sau trong năm epoch và báo cáo một lần chạy cho mỗi bộ dữ liệu. Vì vậy, các kết quả hỗ trợ phép so sánh hiệu quả trong điều kiện kiểm soát, chứ không phải tuyên bố rằng GigaPath-Flash vượt trội phổ quát trên các tác vụ bệnh lý học.
GigaTIME-Flash được thử nghiệm trên 9,204 tile đã đăng ký từ năm bệnh nhân ung thư biểu mô tuyến phổi và trên các tissue microarray ngoài phân phối bao phủ ung thư não, vú, đại tràng và phổi. Mỗi nhóm ung thư bên ngoài chứa mẫu từ khoảng 10 đến 20 bệnh nhân.
Hiệu năng được đo bằng tương quan Pearson giữa hoạt hóa protein được dự đoán và được đo thực nghiệm, tổng hợp theo các cửa sổ gần tương ứng với từng tế bào riêng lẻ. GigaTIME-Flash đạt tương quan trung bình cao hơn GigaTIME trên tập kiểm tra gốc và cả bốn nhóm bên ngoài.
Mức cải thiện không đồng đều giữa các protein. GigaTIME-Flash cải thiện dự đoán cho một số marker nhân, biểu mô, dòng tủy, tăng sinh và apoptosis. Mô hình tích chập gốc vẫn cạnh tranh đối với một số kiểu hình mạch máu, mô đệm và lympho thưa, gồm CD34, Transgelin, Actin và CD20.
3. Mức giảm tính toán ở quy mô quần thể
Với đầu vào 256-by-256-pixel, GigaTIME-Flash cần 14.9 GFLOPs, so với 69.1 GFLOPs của GigaTIME—giảm khoảng 4.6 lần.
Lợi thế của mô hình tăng lên khi batch trên NVIDIA A100. Thông lượng tăng từ 60.3 tile mỗi giây ở batch size 1 lên 1,679.2 tile mỗi giây ở batch size 128. GigaTIME gốc đạt trạng thái bão hòa ở khoảng 390 tile mỗi giây.
Ở batch size 128, bộ nhớ GPU đỉnh là 2.16 GB đối với GigaTIME-Flash và 16.68 GB đối với GigaTIME. Mô hình mới lớn hơn về số lượng tham số, nhưng backbone transformer của nó tận dụng tốt hơn các phép toán ma trận có thể song song hóa hiệu quả trên GPU hiện đại, trong khi mô hình gốc thực hiện tích chập dày đặc và các phép skip lồng nhau trên các feature map độ phân giải cao.
Microsoft ước tính rằng việc tạo bản đồ miễn dịch huỳnh quang đa kênh ảo cho một triệu lát cắt sẽ cần khoảng 70 ngày trên một A100 với GigaTIME-Flash, giả định 10,000 tile mỗi lát cắt và batch size 128. Ước tính tương ứng cho GigaTIME là khoảng 300 ngày. Với 100,000 lát cắt, các ước tính lần lượt là bảy ngày và 30 ngày.
Các con số đó là dự báo thay vì các lần chạy cohort đầu cuối được đo đạc. Thời gian thực tế phụ thuộc vào kích thước lát cắt, độ phân giải chia tile, tiền xử lý, thông lượng lưu trữ, cách triển khai và phần cứng.
Quy mô này quan trọng vì nghiên cứu GigaTIME gốc đã áp dụng dự đoán protein ảo cho 14,256 bệnh nhân Providence thuộc 24 loại ung thư và 306 phân nhóm. Nghiên cứu tạo ra 299,376 bản đồ protein ảo và báo cáo 1,234 mối liên hệ protein–biomarker có ý nghĩa thống kê. Việc giảm chi phí suy luận giúp khả thi hơn khi lặp lại những phân tích như vậy trên các biomarker thay thế, các nhóm bệnh nhân con và các cohort xác thực.
4. Bản phát hành trọng số mở với các điều kiện thực tế
Microsoft và các cộng tác viên đã phát hành cả hai checkpoint Flash cùng mã nguồn theo Apache License 2.0. Các trọng số GigaPath-Flash được lưu trữ qua tổ chức Prov-GigaPath trên Hugging Face, còn GigaTIME-Flash được phân phối qua tổ chức Prov-GigaTIME. Các kho GitHub công khai bao gồm hướng dẫn tải và notebook suy luận.
Các trọng số được kiểm soát truy cập: người dùng phải đăng nhập, đồng ý với điều khoản kho lưu trữ và cung cấp token Hugging Face chỉ đọc trước khi tải xuống. Điều này có nghĩa là các artifact được cấp phép mở và có thể kiểm tra sau khi quyền truy cập được cấp, nhưng không phải là các bản tải xuống ẩn danh chỉ với một cú nhấp.
Cũng có một khác biệt giữa giấy phép và mục đích sử dụng được nêu. Apache 2.0 là giấy phép phần mềm cho phép rộng rãi, nhưng cả hai model card đều mô tả các checkpoint là tài nguyên nghiên cứu và nói rằng các mục đích triển khai, thương mại hoặc khác, nằm ngoài phạm vi dự kiến. Các tài liệu không giải thích hướng dẫn trong model card đó cần được dung hòa thế nào với mọi cách sử dụng mà giấy phép cho phép; vì vậy, các tổ chức đang cân nhắc triển khai nên làm rõ thay vì coi “Apache 2.0” là bằng chứng về sự phê duyệt lâm sàng hoặc vận hành.
Cả hai mô hình đều chưa được xác thực cho chẩn đoán, tiên lượng, lựa chọn điều trị hoặc các quyết định chăm sóc bệnh nhân khác. Các tác giả kêu gọi xác thực đa cơ sở và tiền cứu trên nhiều máy quét, cơ sở, quần thể bệnh nhân và tác vụ phía sau.
Sự thận trọng này được củng cố bởi nghiên cứu bệnh lý học rộng hơn. Một nghiên cứu độc lập năm 2026 phát hiện các foundation model bệnh lý học có thể mã hóa các dấu hiệu nhuộm, chuẩn bị và máy quét đặc thù bệnh viện, cho phép các hệ thống phía sau dựa vào artifact của cơ sở thay vì các đặc trưng sinh học. Nghiên cứu đó đánh giá Prov-GigaPath gốc trong một tập hợp mô hình rộng hơn, không phải GigaPath-Flash, nên không xác lập một khiếm khuyết trong bản phát hành mới. Tuy vậy, nó cho thấy vì sao mức tính toán thấp hơn và điểm benchmark thuận lợi không thể thay thế cho xác thực liên cơ sở.
Câu hỏi thường gặp
Sự khác biệt giữa GigaPath-Flash và GigaTIME-Flash là gì?
GigaPath-Flash tạo các biểu diễn có ngữ cảnh của toàn bộ lát cắt bệnh lý học. GigaTIME-Flash dự đoán bản đồ biểu hiện protein không gian từ ảnh H&E thường quy.
GigaPath-Flash nhỏ hơn bao nhiêu?
Bộ mã hóa tile của nó có khoảng 22 triệu tham số, so với khoảng một tỷ ở GigaPath gốc. Bộ mã hóa lát cắt có khoảng 21 triệu tham số, so với 86 triệu trước đây.
Các mô hình có phải là mã nguồn mở không?
Mã nguồn và trọng số được công bố theo Apache 2.0, nhưng việc tải checkpoint yêu cầu tài khoản Hugging Face và chấp nhận điều khoản truy cập. Vì vậy, “trọng số mở” là mô tả chính xác hơn.
Bệnh viện có thể sử dụng các mô hình để chăm sóc bệnh nhân không?
Không. Microsoft và các model card nêu rằng các mô hình là bản phát hành nghiên cứu và không được dự kiến hoặc xác thực cho chẩn đoán lâm sàng, tiên lượng, lựa chọn điều trị hoặc các quyết định chăm sóc khác.
Nghiên cứu Flash đã được phản biện bình duyệt chưa?
Các kết quả Flash hiện được ghi nhận trong một bản thảo preprint trên arXiv. Nghiên cứu GigaPath và GigaTIME gốc lần lượt xuất hiện trên Nature và Cell.
Tham khảo nguồn
- Bài đăng gốc của Microsoft Research trên X
- Thông báo của Microsoft Research: GigaPath-Flash và GigaTIME-Flash
- Báo cáo kỹ thuật GigaPath-Flash và GigaTIME-Flash
- Model card GigaPath-Flash
- Model card GigaTIME-Flash
- Kho mã nguồn Prov-GigaPath
- Kho mã nguồn GigaTIME
- Nghiên cứu Prov-GigaPath gốc trên Nature
- Nghiên cứu GigaTIME gốc trên Cell
- Nghiên cứu độc lập về độ bền vững của foundation model bệnh lý học
Share