Optimizing Preoperative Diagnosis and Treatment of Pituitary Adenomas with Machine Learning and Deep Learning Algorithms: A Radiomics and Videomics Approach

Introduction Pituitary adenomas (PAs) are among the most common intracranial tumors and represent a major challenge in skull base surgery due to their proximity to critical neurovascular structures. Despite advances in endoscopic endonasal approaches (EEA), preoperative assessment and intraoperative decision-making still largely rely on subjective imaging interpretation and surgical experience. Artificial intelligence (AI), particularly through radiomics and videomics, enables the extraction of quantitative and reproducible information from preoperative magnetic resonance imaging (MRI) and intraoperative endoscopic video. This thesis evaluates radiomics and videomics as complementary tools to improve diagnosis, surgical planning, and intraoperative guidance in PA management. Methods This work comprised two systematic reviews and two retrospective multicenter studies. The radiomics systematic review, conducted according to PRISMA guidelines, included MRI-based studies applying machine learning (ML) and deep learning (DL) for PA diagnosis, subtype classification, invasiveness assessment, consistency prediction, and outcome prediction, with study quality assessed using the Radiomics Quality Score (RQS), IBSI compliance, and Newcastle–Ottawa Scale (NOS). The videomics systematic review analyzed DL-based segmentation and computer vision techniques applied to endoscopic endonasal surgery, focusing on anatomical recognition, tumor segmentation, and intraoperative guidance. The radiomics retrospective study included patients from four tertiary centers undergoing EEA for PA. Quantitative features were extracted from standardized preoperative T2-weighted MRI using PyRadiomics and analyzed with an Extra Trees (ET) classifier to predict tumor consistency (soft vs fibrous). The videomics retrospective study evaluated annotated intraoperative endoscopic video frames using multiple DL architectures, including YOLO-based models, Mask R-CNN, and a transformer-based Swin Transformer, for automated tumor segmentation. Results The radiomics systematic review included 49 studies published between 2018 and 2025, involving over 9,300 patients. Most studies reported good diagnostic performance (AUC up to 1.00), particularly for subtype classification, invasiveness, and consistency assessment, although methodological heterogeneity and limited external validation were frequent. The videomics systematic review included 28 studies analyzing more than one million annotated endoscopic images. Transformer-based models outperformed conventional convolutional neural networks (CNNs) in segmentation accuracy, while YOLO-based architectures provided faster inference. In the radiomics retrospective study, the ET model achieved a test accuracy of 63%, with balanced sensitivity and specificity of 74%. In the videomics retrospective study, the Swin Transformer outperformed YOLO and Mask R-CNN models, achieving a test segmentation mAP[0.50] of 0.607 and a Dice Similarity Coefficient of 0.89, demonstrating greater robustness in complex intraoperative scenarios. Conclusions AI-based radiomics and videomics provide complementary and clinically meaningful support in PA management. Radiomics enables objective preoperative prediction of tumor consistency, facilitating personalized surgical planning, while videomics improves intraoperative tumor recognition and segmentation, with potential benefits for surgical safety and resection completeness.

Introduzione Gli adenomi ipofisari (PAs) sono tra i tumori intracranici più comuni e rappresentano una sfida rilevante nella chirurgia della base cranica per la loro vicinanza a strutture neurovascolari critiche. Nonostante i progressi degli approcci endoscopici endonasali (EEAs), la valutazione preoperatoria e il processo decisionale intraoperatorio si basano ancora prevalentemente sull’interpretazione soggettiva delle immagini e sull’esperienza del chirurgo. L’intelligenza artificiale (AI), in particolare attraverso radiomica e videomica, consente di estrarre informazioni quantitative e riproducibili dalla risonanza magnetica (MRI) preoperatoria e dai video endoscopici intraoperatori. Questa tesi valuta il ruolo di radiomica e videomica come strumenti complementari per migliorare diagnosi, pianificazione chirurgica e guida intraoperatoria nella gestione dei PAs. Metodi Il lavoro si articola in quattro componenti: due revisioni sistematiche e due studi retrospettivi multicentrici. La revisione sistematica di radiomica, condotta secondo le linee guida PRISMA, ha incluso studi basati su MRI che applicavano algoritmi di machine learning (ML) e deep learning (DL) alla diagnosi dei PAs, alla classificazione dei sottotipi, alla valutazione dell’invasività, alla predizione della consistenza e degli esiti clinici. La qualità metodologica è stata valutata mediante Radiomics Quality Score (RQS), conformità IBSI e Newcastle–Ottawa Scale (NOS).
La revisione sistematica di videomica ha analizzato tecniche di DL e computer vision applicate alla chirurgia endoscopica endonasale, focalizzandosi su riconoscimento anatomico, segmentazione tumorale e guida intraoperatoria.
Lo studio retrospettivo di radiomica ha incluso pazienti di quattro centri di terzo livello sottoposti a EEA per PA. Le feature quantitative sono state estratte da MRI T2-pesate preoperatorie standardizzate mediante PyRadiomics e analizzate con un classificatore Extra Trees (ET) per la predizione della consistenza tumorale (morbida vs fibrosa).
Lo studio retrospettivo di videomica ha analizzato frame video endoscopici intraoperatori annotati, confrontando diverse architetture DL, inclusi modelli YOLO, Mask R-CNN e Swin Transformer, per la segmentazione automatica del tumore. Risultati La revisione sistematica di radiomica ha incluso 49 studi pubblicati tra il 2018 e il 2025, per un totale di oltre 9.300 pazienti. La maggior parte ha mostrato buone prestazioni diagnostiche (AUC fino a 1,00), soprattutto per classificazione dei sottotipi, invasività e consistenza, sebbene con frequente eterogeneità metodologica e limitata validazione esterna.
La revisione sistematica di videomica ha incluso 28 studi con oltre un milione di immagini endoscopiche annotate; i modelli transformer hanno superato le CNN convenzionali in termini di accuratezza di segmentazione, mentre le architetture YOLO hanno garantito maggiore rapidità di inferenza.
Nello studio retrospettivo di radiomica, il modello ET ha raggiunto un’accuratezza del 63% nel test set, con sensibilità e specificità bilanciate del 74%.
Nello studio retrospettivo di videomica, lo Swin Transformer ha ottenuto prestazioni superiori rispetto a YOLO e Mask R-CNN, con mAP di segmentazione nel test set [0.50] pari a 0.607 e Dice Similarity Coefficient di 0.89, mostrando maggiore robustezza in scenari intraoperatori complessi. Conclusioni Questa tesi dimostra che radiomica e videomica basate su AI forniscono informazioni complementari e clinicamente rilevanti nella gestione dei PAs. La radiomica permette una predizione preoperatoria oggettiva della consistenza tumorale, favorendo una pianificazione chirurgica personalizzata, mentre la videomica migliora il riconoscimento e la segmentazione intraoperatoria del tumore, con potenziale beneficio sulla completezza della resezione e sulla sicurezza chirurgica.