CINXE.COM

<!DOCTYPE html> <html lang="en" prefix="dcterms: http://purl.org/dc/terms/"> <head> <meta content="text/html; charset=utf-8" http-equiv="content-type"/> <title>Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression</title>  <meta content="width=device-width, initial-scale=1, shrink-to-fit=no" name="viewport"/> <link href="https://cdn.jsdelivr.net/npm/bootstrap@5.3.0/dist/css/bootstrap.min.css" rel="stylesheet" type="text/css"/> <link href="/static/browse/0.3.4/css/ar5iv.0.7.9.min.css" rel="stylesheet" type="text/css"/> <link href="/static/browse/0.3.4/css/ar5iv-fonts.0.7.9.min.css" rel="stylesheet" type="text/css"/> <link href="/static/browse/0.3.4/css/latexml_styles.css" rel="stylesheet" type="text/css"/> <script src="https://cdn.jsdelivr.net/npm/bootstrap@5.3.0/dist/js/bootstrap.bundle.min.js"></script> <script src="https://cdnjs.cloudflare.com/ajax/libs/html2canvas/1.3.3/html2canvas.min.js"></script> <script src="/static/browse/0.3.4/js/addons_new.js"></script> <script src="/static/browse/0.3.4/js/feedbackOverlay.js"></script> <meta content="Machine Learning, ICML" lang="en" name="keywords"/> <base href="/html/2503.13317v1/"/></head> <body> <nav class="ltx_page_navbar"> <nav class="ltx_TOC"> <ol class="ltx_toclist"> <li class="ltx_tocentry ltx_tocentry_section"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S1" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">1 </span>Introduction</span></a></li> <li class="ltx_tocentry ltx_tocentry_section"> <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">2 </span>Methodology</span></a> <ol class="ltx_toclist ltx_toclist_section"> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.SS1" title="In 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">2.1 </span>Formalization</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.SS2" title="In 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">2.2 </span>Calibration</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.SS3" title="In 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">2.3 </span>Epistemic Uncertainty</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.SS4" title="In 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">2.4 </span>Training the Model</span></a></li> </ol> </li> <li class="ltx_tocentry ltx_tocentry_section"> <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">3 </span>Related Work</span></a> <ol class="ltx_toclist ltx_toclist_section"> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.SS1" title="In 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">3.1 </span>Bayesian Deep Learning</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.SS2" title="In 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">3.2 </span>Metrics and Calibration</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.SS3" title="In 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">3.3 </span>Connection to <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <span class="ltx_ref">2024</span>)</cite></span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.SS4" title="In 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">3.4 </span>Connection to <cite class="ltx_cite ltx_citemacro_citep">(Durasov et al., <span class="ltx_ref">2024</span>)</cite></span></a></li> </ol> </li> <li class="ltx_tocentry ltx_tocentry_section"> <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">4 </span>Validation</span></a> <ol class="ltx_toclist ltx_toclist_section"> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.SS1" title="In 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">4.1 </span>Synthetic Dataset</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.SS2" title="In 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">4.2 </span>Aerodynamics of an airfoil</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.SS3" title="In 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">4.3 </span>Drone noise</span></a></li> </ol> </li> <li class="ltx_tocentry ltx_tocentry_section"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S5" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">5 </span>Conclusion</span></a></li> <li class="ltx_tocentry ltx_tocentry_appendix"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A1" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">A </span>Proofs of the theorems</span></a></li> <li class="ltx_tocentry ltx_tocentry_appendix"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">B </span>Variance calibration and distribution calibration</span></a></li> <li class="ltx_tocentry ltx_tocentry_appendix"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A3" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">C </span>Outline of the necessary model modifications</span></a></li> <li class="ltx_tocentry ltx_tocentry_appendix"> <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A4" title="In Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">D </span>Details of the physical experiments</span></a> <ol class="ltx_toclist ltx_toclist_appendix"> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A4.SS1" title="In Appendix D Details of the physical experiments ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">D.1 </span>Wind tunnel experiments</span></a></li> <li class="ltx_tocentry ltx_tocentry_subsection"><a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A4.SS2" title="In Appendix D Details of the physical experiments ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_title"><span class="ltx_tag ltx_tag_ref">D.2 </span>Drone noise</span></a></li> </ol> </li> </ol></nav> </nav> <div class="ltx_page_main"> <div class="ltx_page_content"> <article class="ltx_document ltx_pruned_first"> <h1 class="ltx_title ltx_title_document">Do You Understand Epistemic Uncertainty? Think <span class="ltx_text ltx_font_italic" id="id1.id1">Again</span>! <br class="ltx_break"/>Rigorous Frequentist Epistemic Uncertainty Estimation in Regression</h1> <div class="ltx_authors"> <span class="ltx_creator ltx_role_author"> <span class="ltx_personname">Enrico Foglia </span></span> <span class="ltx_author_before"> </span><span class="ltx_creator ltx_role_author"> <span class="ltx_personname">Benjamin Bobbia </span></span> <span class="ltx_author_before"> </span><span class="ltx_creator ltx_role_author"> <span class="ltx_personname">Nikita Durasov </span></span> <span class="ltx_author_before"> </span><span class="ltx_creator ltx_role_author"> <span class="ltx_personname">Michael Bauerheim </span></span> <span class="ltx_author_before"> </span><span class="ltx_creator ltx_role_author"> <span class="ltx_personname">Pascal Fua </span></span> <span class="ltx_author_before"> </span><span class="ltx_creator ltx_role_author"> <span class="ltx_personname">Stephane Moreau </span></span> <span class="ltx_author_before"> </span><span class="ltx_creator ltx_role_author"> <span class="ltx_personname">Thierry Jardin </span></span> </div> <div class="ltx_abstract"> <h6 class="ltx_title ltx_title_abstract">Abstract</h6> <p class="ltx_p" id="id2.id1">Quantifying model uncertainty is critical for understanding prediction reliability, yet distinguishing between aleatoric and epistemic uncertainty remains challenging. We extend recent work from classification to regression to provide a novel frequentist approach to epistemic and aleatoric uncertainty estimation. We train models to generate conditional predictions by feeding their initial output back as an additional input. This method allows for a rigorous measurement of model uncertainty by observing how prediction responses change when conditioned on the model’s previous answer. We provide a complete theoretical framework to analyze epistemic uncertainty in regression in a frequentist way, and explain how it can be exploited in practice to gauge a model’s uncertainty, with minimal changes to the original architecture.</p> </div> <div class="ltx_keywords">Machine Learning, ICML </div> <div class="ltx_para" id="p2"> <br class="ltx_break"/> </div> <section class="ltx_section" id="S1"> <h2 class="ltx_title ltx_title_section"> <span class="ltx_tag ltx_tag_section">1 </span>Introduction</h2> <figure class="ltx_figure" id="S1.F1"><svg class="ltx_picture ltx_centering" height="246.09" id="S1.F1.pic1" overflow="visible" version="1.1" width="316.83"><g fill="#000000" stroke="#000000" stroke-width="0.4pt" transform="translate(0,246.09) matrix(1 0 0 -1 0 0) translate(29.5,0) translate(0,10.84)"><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 -29.5 148.17)"><foreignobject height="58" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="59"><img alt="Refer to caption" class="ltx_graphics ltx_img_square" height="58" id="S1.F1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.g1" src="extracted/6287373/figures/robot2.png" width="59"/></foreignobject></g><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 -29.5 30.06)"><foreignobject height="58" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="59"><img alt="Refer to caption" class="ltx_graphics ltx_img_square" height="58" id="S1.F1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.g1" src="extracted/6287373/figures/robot2.png" width="59"/></foreignobject></g><g stroke-width="0.8pt"><path d="M 39.37 177.17 L 77.76 177.17" style="fill:none"></path></g><g stroke-dasharray="none" stroke-dashoffset="0.0pt" stroke-linecap="round" stroke-linejoin="round" stroke-width="0.64pt" transform="matrix(1.0 0.0 0.0 1.0 77.76 177.17)"><path d="M -2.16 2.88 C -1.98 1.8 0 0.18 0.54 0 C 0 -0.18 -1.98 -1.8 -2.16 -2.88" style="fill:none"></path></g><g stroke-width="0.8pt"><path d="M 39.37 59.06 L 77.94 86.05" style="fill:none"></path></g><g stroke-dasharray="none" stroke-dashoffset="0.0pt" stroke-linecap="round" stroke-linejoin="round" stroke-width="0.64pt" transform="matrix(0.81923 0.57346 -0.57346 0.81923 77.94 86.05)"><path d="M -2.16 2.88 C -1.98 1.8 0 0.18 0.54 0 C 0 -0.18 -1.98 -1.8 -2.16 -2.88" style="fill:none"></path></g><g stroke-width="0.8pt"><path d="M 39.37 59.06 L 78.05 20.38" style="fill:none"></path></g><g stroke-dasharray="none" stroke-dashoffset="0.0pt" stroke-linecap="round" stroke-linejoin="round" stroke-width="0.64pt" transform="matrix(0.7071 -0.7071 0.7071 0.7071 78.05 20.38)"><path d="M -2.16 2.88 C -1.98 1.8 0 0.18 0.54 0 C 0 -0.18 -1.98 -1.8 -2.16 -2.88" style="fill:none"></path></g><g stroke-width="0.8pt"><path d="M 78.74 169.29 L 39.72 67.85" style="fill:none"></path></g><g stroke-dasharray="none" stroke-dashoffset="0.0pt" stroke-linecap="round" stroke-linejoin="round" stroke-width="0.64pt" transform="matrix(-0.35898 -0.93335 0.93335 -0.35898 39.72 67.85)"><path d="M -2.16 2.88 C -1.98 1.8 0 0.18 0.54 0 C 0 -0.18 -1.98 -1.8 -2.16 -2.88" style="fill:none"></path></g><g transform="matrix(1.0 0.0 0.0 1.0 97.39 156.44)"><g class="ltx_nestedsvg" fill="#000000" stroke="#000000" stroke-width="1.5pt" transform="matrix(1 0 0 1 0 0) translate(1.04,0) translate(0,1.04)"><path d="M 0 0 L 0 55.84 L 95.21 55.84 L 95.21 0 L 0 0 Z" style="fill:none"></path><clippath id="pgfcp1"><path d="M 0 0 L 95.21 0 L 95.21 55.84 L 0 55.84 Z"></path></clippath><g clip-path="url(#pgfcp1)"><g color="#4A90E2" fill="#4A90E2" stroke="#4A90E2" stroke-width="1.5pt"><path d="M 0 16.42 L 0.96 16.42 L 1.92 16.42 L 2.89 16.42 L 3.85 16.42 L 4.81 16.42 L 5.77 16.42 L 6.73 16.42 L 7.69 16.42 L 8.66 16.42 L 9.62 16.42 L 10.58 16.42 L 11.54 16.43 L 12.5 16.43 L 13.46 16.43 L 14.43 16.43 L 15.39 16.43 L 16.35 16.44 L 17.31 16.45 L 18.27 16.46 L 19.23 16.48 L 20.2 16.51 L 21.16 16.55 L 22.12 16.61 L 23.08 16.7 L 24.04 16.82 L 25.01 16.99 L 25.97 17.22 L 26.93 17.52 L 27.89 17.92 L 28.85 18.43 L 29.81 19.08 L 30.78 19.89 L 31.74 20.87 L 32.7 22.05 L 33.66 23.43 L 34.62 25.03 L 35.58 26.85 L 36.55 28.86 L 37.51 31.04 L 38.47 33.35 L 39.43 35.74 L 40.39 38.15 L 41.35 40.51 L 42.32 42.73 L 43.28 44.73 L 44.24 46.44 L 45.2 47.8 L 46.16 48.73 L 47.13 49.21 L 48.09 49.21 L 49.05 48.74 L 50.01 47.8 L 50.97 46.45 L 51.93 44.73 L 52.9 42.73 L 53.86 40.51 L 54.82 38.16 L 55.78 35.75 L 56.74 33.35 L 57.7 31.04 L 58.67 28.86 L 59.63 26.85 L 60.59 25.04 L 61.55 23.44 L 62.51 22.05 L 63.47 20.87 L 64.44 19.89 L 65.4 19.08 L 66.36 18.44 L 67.32 17.92 L 68.28 17.53 L 69.25 17.22 L 70.21 16.99 L 71.17 16.82 L 72.13 16.7 L 73.09 16.61 L 74.05 16.55 L 75.02 16.51 L 75.98 16.48 L 76.94 16.46 L 77.9 16.45 L 78.86 16.44 L 79.82 16.43 L 80.79 16.43 L 81.75 16.43 L 82.71 16.43 L 83.67 16.43 L 84.63 16.42 L 85.59 16.42 L 86.56 16.42 L 87.52 16.42 L 88.48 16.42 L 89.44 16.42 L 90.4 16.42 L 91.37 16.42 L 92.33 16.42 L 93.29 16.42 L 94.25 16.42 L 95.21 16.42" style="fill:none"></path></g><g></g></g></g></g><g transform="matrix(1.0 0.0 0.0 1.0 97.39 58.02)"><g class="ltx_nestedsvg" fill="#000000" stroke="#000000" stroke-width="1.5pt" transform="matrix(1 0 0 1 0 0) translate(1.04,0) translate(0,1.04)"><path d="M 0 0 L 0 55.84 L 95.21 55.84 L 95.21 0 L 0 0 Z" style="fill:none"></path><clippath id="pgfcp2"><path d="M 0 0 L 95.21 0 L 95.21 55.84 L 0 55.84 Z"></path></clippath><g clip-path="url(#pgfcp2)"><g color="#4A90E2" fill="#4A90E2" stroke="#4A90E2" stroke-width="1.5pt"><path d="M 0 16.42 L 0.96 16.42 L 1.92 16.42 L 2.89 16.42 L 3.85 16.42 L 4.81 16.42 L 5.77 16.42 L 6.73 16.42 L 7.69 16.42 L 8.66 16.42 L 9.62 16.42 L 10.58 16.42 L 11.54 16.43 L 12.5 16.43 L 13.46 16.43 L 14.43 16.43 L 15.39 16.43 L 16.35 16.44 L 17.31 16.45 L 18.27 16.46 L 19.23 16.48 L 20.2 16.51 L 21.16 16.55 L 22.12 16.61 L 23.08 16.7 L 24.04 16.82 L 25.01 16.99 L 25.97 17.22 L 26.93 17.52 L 27.89 17.92 L 28.85 18.43 L 29.81 19.08 L 30.78 19.89 L 31.74 20.87 L 32.7 22.05 L 33.66 23.43 L 34.62 25.03 L 35.58 26.85 L 36.55 28.86 L 37.51 31.04 L 38.47 33.35 L 39.43 35.74 L 40.39 38.15 L 41.35 40.51 L 42.32 42.73 L 43.28 44.73 L 44.24 46.44 L 45.2 47.8 L 46.16 48.73 L 47.13 49.21 L 48.09 49.21 L 49.05 48.74 L 50.01 47.8 L 50.97 46.45 L 51.93 44.73 L 52.9 42.73 L 53.86 40.51 L 54.82 38.16 L 55.78 35.75 L 56.74 33.35 L 57.7 31.04 L 58.67 28.86 L 59.63 26.85 L 60.59 25.04 L 61.55 23.44 L 62.51 22.05 L 63.47 20.87 L 64.44 19.89 L 65.4 19.08 L 66.36 18.44 L 67.32 17.92 L 68.28 17.53 L 69.25 17.22 L 70.21 16.99 L 71.17 16.82 L 72.13 16.7 L 73.09 16.61 L 74.05 16.55 L 75.02 16.51 L 75.98 16.48 L 76.94 16.46 L 77.9 16.45 L 78.86 16.44 L 79.82 16.43 L 80.79 16.43 L 81.75 16.43 L 82.71 16.43 L 83.67 16.43 L 84.63 16.42 L 85.59 16.42 L 86.56 16.42 L 87.52 16.42 L 88.48 16.42 L 89.44 16.42 L 90.4 16.42 L 91.37 16.42 L 92.33 16.42 L 93.29 16.42 L 94.25 16.42 L 95.21 16.42" style="fill:none"></path></g><g></g></g></g></g><g transform="matrix(1.0 0.0 0.0 1.0 97.39 -8.91)"><g class="ltx_nestedsvg" fill="#000000" stroke="#000000" stroke-width="1.5pt" transform="matrix(1 0 0 1 0 0) translate(1.04,0) translate(0,1.04)"><path d="M 0 0 L 0 55.84 L 95.21 55.84 L 95.21 0 L 0 0 Z" style="fill:none"></path><clippath id="pgfcp3"><path d="M 0 0 L 95.21 0 L 95.21 55.84 L 0 55.84 Z"></path></clippath><g clip-path="url(#pgfcp3)"><g color="#D0021B" fill="#D0021B" stroke="#D0021B" stroke-width="1.5pt"><path d="M 0 16.44 L 0.96 16.44 L 1.92 16.44 L 2.89 16.45 L 3.85 16.45 L 4.81 16.46 L 5.77 16.47 L 6.73 16.48 L 7.69 16.49 L 8.66 16.51 L 9.62 16.53 L 10.58 16.55 L 11.54 16.58 L 12.5 16.61 L 13.46 16.65 L 14.43 16.7 L 15.39 16.76 L 16.35 16.82 L 17.31 16.9 L 18.27 16.99 L 19.23 17.1 L 20.2 17.22 L 21.16 17.36 L 22.12 17.53 L 23.08 17.71 L 24.04 17.92 L 25.01 18.16 L 25.97 18.43 L 26.93 18.74 L 27.89 19.08 L 28.85 19.46 L 29.81 19.89 L 30.78 20.35 L 31.74 20.87 L 32.7 21.43 L 33.66 22.05 L 34.62 22.71 L 35.58 23.43 L 36.55 24.21 L 37.51 25.03 L 38.47 25.92 L 39.43 26.85 L 40.39 27.83 L 41.35 28.86 L 42.32 29.93 L 43.28 31.04 L 44.24 32.18 L 45.2 33.35 L 46.16 34.54 L 47.13 35.74 L 48.09 36.95 L 49.05 38.15 L 50.01 39.34 L 50.97 40.51 L 51.93 41.64 L 52.9 42.73 L 53.86 43.76 L 54.82 44.73 L 55.78 45.63 L 56.74 46.45 L 57.7 47.17 L 58.67 47.8 L 59.63 48.32 L 60.59 48.73 L 61.55 49.03 L 62.51 49.21 L 63.47 49.27 L 64.44 49.21 L 65.4 49.03 L 66.36 48.74 L 67.32 48.32 L 68.28 47.8 L 69.25 47.17 L 70.21 46.45 L 71.17 45.63 L 72.13 44.73 L 73.09 43.76 L 74.05 42.73 L 75.02 41.64 L 75.98 40.51 L 76.94 39.34 L 77.9 38.16 L 78.86 36.95 L 79.82 35.75 L 80.79 34.54 L 81.75 33.35 L 82.71 32.18 L 83.67 31.04 L 84.63 29.93 L 85.59 28.86 L 86.56 27.83 L 87.52 26.85 L 88.48 25.92 L 89.44 25.04 L 90.4 24.21 L 91.37 23.44 L 92.33 22.72 L 93.29 22.05 L 94.25 21.43 L 95.21 20.87" style="fill:none"></path></g><g></g></g></g></g><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 209.61 81.25)"><foreignobject height="12.45" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="64.04"><math alttext="=p_{\theta}(Y_{1}|x)" class="ltx_Math" display="inline" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1a"><mrow id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><mi id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml"></mi><mo id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2" mathsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">=</mo><mrow id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml"><msub id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.cmml"><mi id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2" mathsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2.cmml">p</mi><mi id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3" mathsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3.cmml">θ</mi></msub><mo id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.2" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.2.cmml">⁢</mo><mrow id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml"><mo id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2" maxsize="90%" minsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">(</mo><mrow id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml"><msub id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.cmml"><mi id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2" mathsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3" mathsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1" mathsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3" mathsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3" maxsize="90%" minsize="90%" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1"><eq id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2"></eq><csymbol cd="latexml" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3">absent</csymbol><apply id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1"><times id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.2.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.2"></times><apply id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3"><csymbol cd="ambiguous" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.1.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3">subscript</csymbol><ci id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2">𝑝</ci><ci id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3">𝜃</ci></apply><apply id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.1.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3.cmml" xref="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1c">=p_{\theta}(Y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S1.F1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1d">= italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math><span class="ltx_text" id="S1.F1.pic1.10.10.10.2.1" style="font-size:90%;"> <span class="ltx_text ltx_font_bold" id="S1.F1.pic1.10.10.10.2.1.1" style="font-size:160%;color:#4A90E2;">!</span></span></foreignobject></g><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 209.61 14.32)"><foreignobject height="12.45" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="63.7"><math alttext="\neq p_{\theta}(Y_{1}|x)" class="ltx_Math" display="inline" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1a"><mrow id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><mi id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml"></mi><mo id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2" mathsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">≠</mo><mrow id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml"><msub id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.cmml"><mi id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2" mathsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2.cmml">p</mi><mi id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3" mathsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3.cmml">θ</mi></msub><mo id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.2" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.2.cmml">⁢</mo><mrow id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml"><mo id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2" maxsize="90%" minsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">(</mo><mrow id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml"><msub id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.cmml"><mi id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2" mathsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3" mathsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1" mathsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3" mathsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3" maxsize="90%" minsize="90%" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1"><neq id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2"></neq><csymbol cd="latexml" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3">absent</csymbol><apply id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1"><times id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.2.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.2"></times><apply id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3"><csymbol cd="ambiguous" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.1.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3">subscript</csymbol><ci id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2">𝑝</ci><ci id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3">𝜃</ci></apply><apply id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.1.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3.cmml" xref="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1c">\neq p_{\theta}(Y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S1.F1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1d">≠ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math><span class="ltx_text" id="S1.F1.pic1.11.11.11.2.1" style="font-size:90%;"> <span class="ltx_text ltx_font_bold" id="S1.F1.pic1.11.11.11.2.1.1" style="font-size:160%;color:#D0021B;">?</span></span></foreignobject></g><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 113.16 122.87)"><foreignobject height="12.45" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="62.17"><math alttext="p_{\theta}(Y_{2}|y_{1},x)" class="ltx_Math" display="inline" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2"><semantics id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2a"><mrow id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.cmml"><msub id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.cmml"><mi id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2.cmml">p</mi><mi id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.3" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.3.cmml">θ</mi></msub><mo id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2.cmml">⁢</mo><mrow id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml"><mo id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.2" maxsize="90%" minsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml">(</mo><mrow id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml"><msub id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.cmml"><mi id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.2" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.2.cmml">Y</mi><mn id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.3" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2.cmml">|</mo><mrow id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.2.cmml"><msub id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.cmml"><mi id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.2" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.2.cmml">y</mi><mn id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.3" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.2" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.2.cmml">,</mo><mi id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1" mathsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">x</mi></mrow></mrow><mo id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.3" maxsize="90%" minsize="90%" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2b"><apply id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2"><times id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2"></times><apply id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3"><csymbol cd="ambiguous" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.1.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3">subscript</csymbol><ci id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2">𝑝</ci><ci id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.3.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.3">𝜃</ci></apply><apply id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1"><csymbol cd="latexml" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2">conditional</csymbol><apply id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3"><csymbol cd="ambiguous" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.1.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3">subscript</csymbol><ci id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.2.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.2">𝑌</ci><cn id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.3.cmml" type="integer" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.3.3">2</cn></apply><list id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.2.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1"><apply id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1">subscript</csymbol><ci id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.2">𝑦</ci><cn id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.3.cmml" type="integer" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.1.1.3">1</cn></apply><ci id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1">𝑥</ci></list></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2c">p_{\theta}(Y_{2}|y_{1},x)</annotation><annotation encoding="application/x-llamapun" id="S1.F1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_x )</annotation></semantics></math></foreignobject></g><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 123 221.3)"><foreignobject height="12.45" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="46.36"><math alttext="p_{\theta}(Y_{1}|x)" class="ltx_Math" display="inline" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1a"><mrow id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><msub id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml"><mi id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.2" mathsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.2.cmml">p</mi><mi id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.3" mathsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.2" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml"><mo id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.2" maxsize="90%" minsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml"><msub id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.cmml"><mi id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.2" mathsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.3" mathsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1" mathsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3" mathsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.3" maxsize="90%" minsize="90%" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1"><times id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.2"></times><apply id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.1.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3">subscript</csymbol><ci id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.2.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.2">𝑝</ci><ci id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.3.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1">conditional</csymbol><apply id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.1.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2">subscript</csymbol><ci id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.2.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.2">𝑌</ci><cn id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.3.cmml" type="integer" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.3">1</cn></apply><ci id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3.cmml" xref="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1c">p_{\theta}(Y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S1.F1.pic1.6.6.6.6.6.6.6.6.6.6.6.6.1.1.1.1.1.1.1.1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math></foreignobject></g><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 209.61 63.82)"><foreignobject height="12.45" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="61.66"><math alttext="\mathrm{cov}_{\theta}(x)=0" class="ltx_Math" display="inline" id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1a"><mrow id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.cmml"><mrow id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml"><msub id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.cmml"><mi id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2" mathsize="90%" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2.cmml">cov</mi><mi id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3" mathsize="90%" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3.cmml">θ</mi></msub><mo id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.1" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.1.cmml">⁢</mo><mrow id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.3.2" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml"><mo id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.3.2.1" maxsize="90%" minsize="90%" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml">(</mo><mi id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.1" mathsize="90%" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">x</mi><mo id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.3.2.2" maxsize="90%" minsize="90%" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml">)</mo></mrow></mrow><mo id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.1" mathsize="90%" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.1.cmml">=</mo><mn id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.3" mathsize="90%" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.3.cmml">0</mn></mrow><annotation-xml encoding="MathML-Content" id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2"><eq id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.1.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.1"></eq><apply id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2"><times id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.1.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.1"></times><apply id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2"><csymbol cd="ambiguous" id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.1.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2">subscript</csymbol><ci id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2">cov</ci><ci id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3">𝜃</ci></apply><ci id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.1">𝑥</ci></apply><cn id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.3.cmml" type="integer" xref="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1.2.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1c">\mathrm{cov}_{\theta}(x)=0</annotation><annotation encoding="application/x-llamapun" id="S1.F1.pic1.7.7.7.7.7.7.7.7.7.7.7.7.1.1.1.1.1.1.1.1.1.m1.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = 0</annotation></semantics></math></foreignobject></g><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 209.61 -3.11)"><foreignobject height="12.45" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="61.32"><math alttext="\mathrm{cov}_{\theta}(x)\neq 0" class="ltx_Math" display="inline" id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1a"><mrow id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.cmml"><mrow id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml"><msub id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.cmml"><mi id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2" mathsize="90%" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2.cmml">cov</mi><mi id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3" mathsize="90%" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3.cmml">θ</mi></msub><mo id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.1" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.1.cmml">⁢</mo><mrow id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.3.2" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml"><mo id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.3.2.1" maxsize="90%" minsize="90%" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml">(</mo><mi id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.1" mathsize="90%" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">x</mi><mo id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.3.2.2" maxsize="90%" minsize="90%" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml">)</mo></mrow></mrow><mo id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.1" mathsize="90%" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.1.cmml">≠</mo><mn id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.3" mathsize="90%" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.3.cmml">0</mn></mrow><annotation-xml encoding="MathML-Content" id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2"><neq id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.1.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.1"></neq><apply id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2"><times id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.1.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.1"></times><apply id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2"><csymbol cd="ambiguous" id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.1.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2">subscript</csymbol><ci id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.2">cov</ci><ci id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.2.2.3">𝜃</ci></apply><ci id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.1">𝑥</ci></apply><cn id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.3.cmml" type="integer" xref="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1.2.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1c">\mathrm{cov}_{\theta}(x)\neq 0</annotation><annotation encoding="application/x-llamapun" id="S1.F1.pic1.8.8.8.8.8.8.8.8.8.8.8.8.1.1.1.1.1.1.1.1.1.m1.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ≠ 0</annotation></semantics></math></foreignobject></g><g fill="#000000" stroke="#000000" transform="matrix(0.3746 0.92719 -0.92719 0.3746 36.21 93.92)"><foreignobject height="12.45" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="69.93"><math alttext="y_{1}\sim p_{\theta}(Y_{1}|x)" class="ltx_Math" display="inline" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1a"><mrow id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><msub id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml"><mi id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.2" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.2.cmml">y</mi><mn id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.3" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.3.cmml">1</mn></msub><mo id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.2" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">∼</mo><mrow id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml"><msub id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.cmml"><mi id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2.cmml">p</mi><mi id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3.cmml">θ</mi></msub><mo id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.2" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.2.cmml">⁢</mo><mrow id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml"><mo id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2" maxsize="90%" minsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">(</mo><mrow id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml"><msub id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.cmml"><mi id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3" mathsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3" maxsize="90%" minsize="90%" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1"><csymbol cd="latexml" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.2">similar-to</csymbol><apply id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.1.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3">subscript</csymbol><ci id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.2.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.2">𝑦</ci><cn id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.3.cmml" type="integer" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.3.3">1</cn></apply><apply id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1"><times id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.2.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.2"></times><apply id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3"><csymbol cd="ambiguous" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.1.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3">subscript</csymbol><ci id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.2">𝑝</ci><ci id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.3.3">𝜃</ci></apply><apply id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.1.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3.cmml" xref="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1c">y_{1}\sim p_{\theta}(Y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S1.F1.pic1.9.9.9.9.9.9.9.9.9.9.9.9.1.1.1.1.1.1.1.1.1.m1.1d">italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ∼ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math></foreignobject></g></g></svg> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 1: </span><span class="ltx_text ltx_font_bold" id="S1.F1.2.1" style="font-size:90%;">Estimating epistemic uncertainty.<span class="ltx_text ltx_font_medium" id="S1.F1.2.1.1"> (a) The model is run twice, the first time normally and the second time with the first prediction as a further input. The covariance of the two outputs can be used to quantify the epistemic uncertainty. Heuristically, it can be said that a model that double guesses its own answers presents some degree of epistemic uncertainty.</span></span></figcaption> </figure> <div class="ltx_para" id="S1.p1"> <p class="ltx_p" id="S1.p1.1">Prediction errors have two main causes. The first one is the stochasticity inherent to the data used as input (for example measurement noise, ambiguous labeling, data issued of a truly random process) and is referred to as <em class="ltx_emph ltx_font_italic" id="S1.p1.1.1">aleatoric</em> uncertainty. The second is potential inaccuracies in the model used to make the predictions and is referred to as <em class="ltx_emph ltx_font_italic" id="S1.p1.1.2">epistemic</em> uncertainty. These two are always present but, crucially, epistemic uncertainty can be reduced by gathering more training data. Thus, being able to separate aleatoric and epistemic uncertainty is key to knowing when more data needs to be collected.</p> </div> <div class="ltx_para" id="S1.p2"> <p class="ltx_p" id="S1.p2.3">Unfortunately, recent work <cite class="ltx_cite ltx_citemacro_citep">(Bengs et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib1" title="">2023</a>)</cite> has shed doubts about the possibility of training models to faithfully estimate their own epistemic uncertainty, at least in a frequentist manner. However, a workaround has been proposed <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite>, in a classification setting: if a model can be trained to give two potentially correlated responses <math alttext="y_{1}" class="ltx_Math" display="inline" id="S1.p2.1.m1.1"><semantics id="S1.p2.1.m1.1a"><msub id="S1.p2.1.m1.1.1" xref="S1.p2.1.m1.1.1.cmml"><mi id="S1.p2.1.m1.1.1.2" xref="S1.p2.1.m1.1.1.2.cmml">y</mi><mn id="S1.p2.1.m1.1.1.3" xref="S1.p2.1.m1.1.1.3.cmml">1</mn></msub><annotation-xml encoding="MathML-Content" id="S1.p2.1.m1.1b"><apply id="S1.p2.1.m1.1.1.cmml" xref="S1.p2.1.m1.1.1"><csymbol cd="ambiguous" id="S1.p2.1.m1.1.1.1.cmml" xref="S1.p2.1.m1.1.1">subscript</csymbol><ci id="S1.p2.1.m1.1.1.2.cmml" xref="S1.p2.1.m1.1.1.2">𝑦</ci><cn id="S1.p2.1.m1.1.1.3.cmml" type="integer" xref="S1.p2.1.m1.1.1.3">1</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.p2.1.m1.1c">y_{1}</annotation><annotation encoding="application/x-llamapun" id="S1.p2.1.m1.1d">italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="y_{2}" class="ltx_Math" display="inline" id="S1.p2.2.m2.1"><semantics id="S1.p2.2.m2.1a"><msub id="S1.p2.2.m2.1.1" xref="S1.p2.2.m2.1.1.cmml"><mi id="S1.p2.2.m2.1.1.2" xref="S1.p2.2.m2.1.1.2.cmml">y</mi><mn id="S1.p2.2.m2.1.1.3" xref="S1.p2.2.m2.1.1.3.cmml">2</mn></msub><annotation-xml encoding="MathML-Content" id="S1.p2.2.m2.1b"><apply id="S1.p2.2.m2.1.1.cmml" xref="S1.p2.2.m2.1.1"><csymbol cd="ambiguous" id="S1.p2.2.m2.1.1.1.cmml" xref="S1.p2.2.m2.1.1">subscript</csymbol><ci id="S1.p2.2.m2.1.1.2.cmml" xref="S1.p2.2.m2.1.1.2">𝑦</ci><cn id="S1.p2.2.m2.1.1.3.cmml" type="integer" xref="S1.p2.2.m2.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.p2.2.m2.1c">y_{2}</annotation><annotation encoding="application/x-llamapun" id="S1.p2.2.m2.1d">italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math> for every input <math alttext="x" class="ltx_Math" display="inline" id="S1.p2.3.m3.1"><semantics id="S1.p2.3.m3.1a"><mi id="S1.p2.3.m3.1.1" xref="S1.p2.3.m3.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="S1.p2.3.m3.1b"><ci id="S1.p2.3.m3.1.1.cmml" xref="S1.p2.3.m3.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="S1.p2.3.m3.1c">x</annotation><annotation encoding="application/x-llamapun" id="S1.p2.3.m3.1d">italic_x</annotation></semantics></math>, then a rigorous measure of epistemic uncertainty can be constructed in a frequentist manner. Practically, this can be achieved by first running the model normally and then repeating the process by adding the model answer to the input, a techinique that had already been proposed in <cite class="ltx_cite ltx_citemacro_citep">(Durasov et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib2" title="">2024</a>)</cite>. Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S1.F1" title="Figure 1 ‣ 1 Introduction ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">1</span></a> illustrates this idea. The intuition behind this method is that a confident model will not double-guess its own answers given the new inputs, while the presence of epistemic uncertainty may induce the model to “change its mind” and return a different answer the second time. Thus, how much the answers change can be used as a measure of epistemic uncertainty. The main objective of our paper si to propose a general framework unifying and generalizing these approaches.</p> </div> <div class="ltx_para" id="S1.p3"> <p class="ltx_p" id="S1.p3.7">Even though it is impossible to train a model to report its epistemic uncertainty without making assumptions on the data distribution, this roadblock can be avoided when one can construct a dataset composed of triplets <math alttext="(x,y_{1},y_{2})" class="ltx_Math" display="inline" id="S1.p3.1.m1.3"><semantics id="S1.p3.1.m1.3a"><mrow id="S1.p3.1.m1.3.3.2" xref="S1.p3.1.m1.3.3.3.cmml"><mo id="S1.p3.1.m1.3.3.2.3" stretchy="false" xref="S1.p3.1.m1.3.3.3.cmml">(</mo><mi id="S1.p3.1.m1.1.1" xref="S1.p3.1.m1.1.1.cmml">x</mi><mo id="S1.p3.1.m1.3.3.2.4" xref="S1.p3.1.m1.3.3.3.cmml">,</mo><msub id="S1.p3.1.m1.2.2.1.1" xref="S1.p3.1.m1.2.2.1.1.cmml"><mi id="S1.p3.1.m1.2.2.1.1.2" xref="S1.p3.1.m1.2.2.1.1.2.cmml">y</mi><mn id="S1.p3.1.m1.2.2.1.1.3" xref="S1.p3.1.m1.2.2.1.1.3.cmml">1</mn></msub><mo id="S1.p3.1.m1.3.3.2.5" xref="S1.p3.1.m1.3.3.3.cmml">,</mo><msub id="S1.p3.1.m1.3.3.2.2" xref="S1.p3.1.m1.3.3.2.2.cmml"><mi id="S1.p3.1.m1.3.3.2.2.2" xref="S1.p3.1.m1.3.3.2.2.2.cmml">y</mi><mn id="S1.p3.1.m1.3.3.2.2.3" xref="S1.p3.1.m1.3.3.2.2.3.cmml">2</mn></msub><mo id="S1.p3.1.m1.3.3.2.6" stretchy="false" xref="S1.p3.1.m1.3.3.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S1.p3.1.m1.3b"><vector id="S1.p3.1.m1.3.3.3.cmml" xref="S1.p3.1.m1.3.3.2"><ci id="S1.p3.1.m1.1.1.cmml" xref="S1.p3.1.m1.1.1">𝑥</ci><apply id="S1.p3.1.m1.2.2.1.1.cmml" xref="S1.p3.1.m1.2.2.1.1"><csymbol cd="ambiguous" id="S1.p3.1.m1.2.2.1.1.1.cmml" xref="S1.p3.1.m1.2.2.1.1">subscript</csymbol><ci id="S1.p3.1.m1.2.2.1.1.2.cmml" xref="S1.p3.1.m1.2.2.1.1.2">𝑦</ci><cn id="S1.p3.1.m1.2.2.1.1.3.cmml" type="integer" xref="S1.p3.1.m1.2.2.1.1.3">1</cn></apply><apply id="S1.p3.1.m1.3.3.2.2.cmml" xref="S1.p3.1.m1.3.3.2.2"><csymbol cd="ambiguous" id="S1.p3.1.m1.3.3.2.2.1.cmml" xref="S1.p3.1.m1.3.3.2.2">subscript</csymbol><ci id="S1.p3.1.m1.3.3.2.2.2.cmml" xref="S1.p3.1.m1.3.3.2.2.2">𝑦</ci><cn id="S1.p3.1.m1.3.3.2.2.3.cmml" type="integer" xref="S1.p3.1.m1.3.3.2.2.3">2</cn></apply></vector></annotation-xml><annotation encoding="application/x-tex" id="S1.p3.1.m1.3c">(x,y_{1},y_{2})</annotation><annotation encoding="application/x-llamapun" id="S1.p3.1.m1.3d">( italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT )</annotation></semantics></math>. It is important to make sure that for every input <math alttext="x" class="ltx_Math" display="inline" id="S1.p3.2.m2.1"><semantics id="S1.p3.2.m2.1a"><mi id="S1.p3.2.m2.1.1" xref="S1.p3.2.m2.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="S1.p3.2.m2.1b"><ci id="S1.p3.2.m2.1.1.cmml" xref="S1.p3.2.m2.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="S1.p3.2.m2.1c">x</annotation><annotation encoding="application/x-llamapun" id="S1.p3.2.m2.1d">italic_x</annotation></semantics></math>, <math alttext="y_{1}" class="ltx_Math" display="inline" id="S1.p3.3.m3.1"><semantics id="S1.p3.3.m3.1a"><msub id="S1.p3.3.m3.1.1" xref="S1.p3.3.m3.1.1.cmml"><mi id="S1.p3.3.m3.1.1.2" xref="S1.p3.3.m3.1.1.2.cmml">y</mi><mn id="S1.p3.3.m3.1.1.3" xref="S1.p3.3.m3.1.1.3.cmml">1</mn></msub><annotation-xml encoding="MathML-Content" id="S1.p3.3.m3.1b"><apply id="S1.p3.3.m3.1.1.cmml" xref="S1.p3.3.m3.1.1"><csymbol cd="ambiguous" id="S1.p3.3.m3.1.1.1.cmml" xref="S1.p3.3.m3.1.1">subscript</csymbol><ci id="S1.p3.3.m3.1.1.2.cmml" xref="S1.p3.3.m3.1.1.2">𝑦</ci><cn id="S1.p3.3.m3.1.1.3.cmml" type="integer" xref="S1.p3.3.m3.1.1.3">1</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.p3.3.m3.1c">y_{1}</annotation><annotation encoding="application/x-llamapun" id="S1.p3.3.m3.1d">italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT</annotation></semantics></math>,<math alttext="y_{2}" class="ltx_Math" display="inline" id="S1.p3.4.m4.1"><semantics id="S1.p3.4.m4.1a"><msub id="S1.p3.4.m4.1.1" xref="S1.p3.4.m4.1.1.cmml"><mi id="S1.p3.4.m4.1.1.2" xref="S1.p3.4.m4.1.1.2.cmml">y</mi><mn id="S1.p3.4.m4.1.1.3" xref="S1.p3.4.m4.1.1.3.cmml">2</mn></msub><annotation-xml encoding="MathML-Content" id="S1.p3.4.m4.1b"><apply id="S1.p3.4.m4.1.1.cmml" xref="S1.p3.4.m4.1.1"><csymbol cd="ambiguous" id="S1.p3.4.m4.1.1.1.cmml" xref="S1.p3.4.m4.1.1">subscript</csymbol><ci id="S1.p3.4.m4.1.1.2.cmml" xref="S1.p3.4.m4.1.1.2">𝑦</ci><cn id="S1.p3.4.m4.1.1.3.cmml" type="integer" xref="S1.p3.4.m4.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.p3.4.m4.1c">y_{2}</annotation><annotation encoding="application/x-llamapun" id="S1.p3.4.m4.1d">italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math> are two measurements independently sampled from the distribution <math alttext="p(y|x)" class="ltx_Math" display="inline" id="S1.p3.5.m5.1"><semantics id="S1.p3.5.m5.1a"><mrow id="S1.p3.5.m5.1.1" xref="S1.p3.5.m5.1.1.cmml"><mi id="S1.p3.5.m5.1.1.3" xref="S1.p3.5.m5.1.1.3.cmml">p</mi><mo id="S1.p3.5.m5.1.1.2" xref="S1.p3.5.m5.1.1.2.cmml">⁢</mo><mrow id="S1.p3.5.m5.1.1.1.1" xref="S1.p3.5.m5.1.1.1.1.1.cmml"><mo id="S1.p3.5.m5.1.1.1.1.2" stretchy="false" xref="S1.p3.5.m5.1.1.1.1.1.cmml">(</mo><mrow id="S1.p3.5.m5.1.1.1.1.1" xref="S1.p3.5.m5.1.1.1.1.1.cmml"><mi id="S1.p3.5.m5.1.1.1.1.1.2" xref="S1.p3.5.m5.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S1.p3.5.m5.1.1.1.1.1.1" xref="S1.p3.5.m5.1.1.1.1.1.1.cmml">|</mo><mi id="S1.p3.5.m5.1.1.1.1.1.3" xref="S1.p3.5.m5.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S1.p3.5.m5.1.1.1.1.3" stretchy="false" xref="S1.p3.5.m5.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S1.p3.5.m5.1b"><apply id="S1.p3.5.m5.1.1.cmml" xref="S1.p3.5.m5.1.1"><times id="S1.p3.5.m5.1.1.2.cmml" xref="S1.p3.5.m5.1.1.2"></times><ci id="S1.p3.5.m5.1.1.3.cmml" xref="S1.p3.5.m5.1.1.3">𝑝</ci><apply id="S1.p3.5.m5.1.1.1.1.1.cmml" xref="S1.p3.5.m5.1.1.1.1"><csymbol cd="latexml" id="S1.p3.5.m5.1.1.1.1.1.1.cmml" xref="S1.p3.5.m5.1.1.1.1.1.1">conditional</csymbol><ci id="S1.p3.5.m5.1.1.1.1.1.2.cmml" xref="S1.p3.5.m5.1.1.1.1.1.2">𝑦</ci><ci id="S1.p3.5.m5.1.1.1.1.1.3.cmml" xref="S1.p3.5.m5.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.p3.5.m5.1c">p(y|x)</annotation><annotation encoding="application/x-llamapun" id="S1.p3.5.m5.1d">italic_p ( italic_y | italic_x )</annotation></semantics></math>. Intuitively, in this way something is now known for sure about the data distribution: it can be decomposed as <math alttext="p(y_{1},y_{2}|x)=p(y_{1}|x)\cdot p(y_{2}|x)" class="ltx_Math" display="inline" id="S1.p3.6.m6.4"><semantics id="S1.p3.6.m6.4a"><mrow id="S1.p3.6.m6.4.4" xref="S1.p3.6.m6.4.4.cmml"><mrow id="S1.p3.6.m6.2.2.2" xref="S1.p3.6.m6.2.2.2.cmml"><mi id="S1.p3.6.m6.2.2.2.4" xref="S1.p3.6.m6.2.2.2.4.cmml">p</mi><mo id="S1.p3.6.m6.2.2.2.3" xref="S1.p3.6.m6.2.2.2.3.cmml">⁢</mo><mrow id="S1.p3.6.m6.2.2.2.2.2" xref="S1.p3.6.m6.2.2.2.2.3.cmml"><mo id="S1.p3.6.m6.2.2.2.2.2.3" stretchy="false" xref="S1.p3.6.m6.2.2.2.2.3.cmml">(</mo><msub id="S1.p3.6.m6.1.1.1.1.1.1" xref="S1.p3.6.m6.1.1.1.1.1.1.cmml"><mi id="S1.p3.6.m6.1.1.1.1.1.1.2" xref="S1.p3.6.m6.1.1.1.1.1.1.2.cmml">y</mi><mn id="S1.p3.6.m6.1.1.1.1.1.1.3" xref="S1.p3.6.m6.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S1.p3.6.m6.2.2.2.2.2.4" xref="S1.p3.6.m6.2.2.2.2.3.cmml">,</mo><mrow id="S1.p3.6.m6.2.2.2.2.2.2" xref="S1.p3.6.m6.2.2.2.2.2.2.cmml"><msub id="S1.p3.6.m6.2.2.2.2.2.2.2" xref="S1.p3.6.m6.2.2.2.2.2.2.2.cmml"><mi id="S1.p3.6.m6.2.2.2.2.2.2.2.2" xref="S1.p3.6.m6.2.2.2.2.2.2.2.2.cmml">y</mi><mn id="S1.p3.6.m6.2.2.2.2.2.2.2.3" xref="S1.p3.6.m6.2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S1.p3.6.m6.2.2.2.2.2.2.1" xref="S1.p3.6.m6.2.2.2.2.2.2.1.cmml">|</mo><mi id="S1.p3.6.m6.2.2.2.2.2.2.3" xref="S1.p3.6.m6.2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S1.p3.6.m6.2.2.2.2.2.5" stretchy="false" xref="S1.p3.6.m6.2.2.2.2.3.cmml">)</mo></mrow></mrow><mo id="S1.p3.6.m6.4.4.5" xref="S1.p3.6.m6.4.4.5.cmml">=</mo><mrow id="S1.p3.6.m6.4.4.4" xref="S1.p3.6.m6.4.4.4.cmml"><mrow id="S1.p3.6.m6.3.3.3.1" xref="S1.p3.6.m6.3.3.3.1.cmml"><mrow id="S1.p3.6.m6.3.3.3.1.1" xref="S1.p3.6.m6.3.3.3.1.1.cmml"><mi id="S1.p3.6.m6.3.3.3.1.1.3" xref="S1.p3.6.m6.3.3.3.1.1.3.cmml">p</mi><mo id="S1.p3.6.m6.3.3.3.1.1.2" xref="S1.p3.6.m6.3.3.3.1.1.2.cmml">⁢</mo><mrow id="S1.p3.6.m6.3.3.3.1.1.1.1" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.cmml"><mo id="S1.p3.6.m6.3.3.3.1.1.1.1.2" stretchy="false" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.cmml">(</mo><mrow id="S1.p3.6.m6.3.3.3.1.1.1.1.1" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.cmml"><msub id="S1.p3.6.m6.3.3.3.1.1.1.1.1.2" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.cmml"><mi id="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.2" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.2.cmml">y</mi><mn id="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.3" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S1.p3.6.m6.3.3.3.1.1.1.1.1.1" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.1.cmml">|</mo><mi id="S1.p3.6.m6.3.3.3.1.1.1.1.1.3" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S1.p3.6.m6.3.3.3.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S1.p3.6.m6.3.3.3.1.2" rspace="0.222em" xref="S1.p3.6.m6.3.3.3.1.2.cmml">⋅</mo><mi id="S1.p3.6.m6.3.3.3.1.3" xref="S1.p3.6.m6.3.3.3.1.3.cmml">p</mi></mrow><mo id="S1.p3.6.m6.4.4.4.3" xref="S1.p3.6.m6.4.4.4.3.cmml">⁢</mo><mrow id="S1.p3.6.m6.4.4.4.2.1" xref="S1.p3.6.m6.4.4.4.2.1.1.cmml"><mo id="S1.p3.6.m6.4.4.4.2.1.2" stretchy="false" xref="S1.p3.6.m6.4.4.4.2.1.1.cmml">(</mo><mrow id="S1.p3.6.m6.4.4.4.2.1.1" xref="S1.p3.6.m6.4.4.4.2.1.1.cmml"><msub id="S1.p3.6.m6.4.4.4.2.1.1.2" xref="S1.p3.6.m6.4.4.4.2.1.1.2.cmml"><mi id="S1.p3.6.m6.4.4.4.2.1.1.2.2" xref="S1.p3.6.m6.4.4.4.2.1.1.2.2.cmml">y</mi><mn id="S1.p3.6.m6.4.4.4.2.1.1.2.3" xref="S1.p3.6.m6.4.4.4.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S1.p3.6.m6.4.4.4.2.1.1.1" xref="S1.p3.6.m6.4.4.4.2.1.1.1.cmml">|</mo><mi id="S1.p3.6.m6.4.4.4.2.1.1.3" xref="S1.p3.6.m6.4.4.4.2.1.1.3.cmml">x</mi></mrow><mo id="S1.p3.6.m6.4.4.4.2.1.3" stretchy="false" xref="S1.p3.6.m6.4.4.4.2.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S1.p3.6.m6.4b"><apply id="S1.p3.6.m6.4.4.cmml" xref="S1.p3.6.m6.4.4"><eq id="S1.p3.6.m6.4.4.5.cmml" xref="S1.p3.6.m6.4.4.5"></eq><apply id="S1.p3.6.m6.2.2.2.cmml" xref="S1.p3.6.m6.2.2.2"><times id="S1.p3.6.m6.2.2.2.3.cmml" xref="S1.p3.6.m6.2.2.2.3"></times><ci id="S1.p3.6.m6.2.2.2.4.cmml" xref="S1.p3.6.m6.2.2.2.4">𝑝</ci><interval closure="open" id="S1.p3.6.m6.2.2.2.2.3.cmml" xref="S1.p3.6.m6.2.2.2.2.2"><apply id="S1.p3.6.m6.1.1.1.1.1.1.cmml" xref="S1.p3.6.m6.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S1.p3.6.m6.1.1.1.1.1.1.1.cmml" xref="S1.p3.6.m6.1.1.1.1.1.1">subscript</csymbol><ci id="S1.p3.6.m6.1.1.1.1.1.1.2.cmml" xref="S1.p3.6.m6.1.1.1.1.1.1.2">𝑦</ci><cn id="S1.p3.6.m6.1.1.1.1.1.1.3.cmml" type="integer" xref="S1.p3.6.m6.1.1.1.1.1.1.3">1</cn></apply><apply id="S1.p3.6.m6.2.2.2.2.2.2.cmml" xref="S1.p3.6.m6.2.2.2.2.2.2"><csymbol cd="latexml" id="S1.p3.6.m6.2.2.2.2.2.2.1.cmml" xref="S1.p3.6.m6.2.2.2.2.2.2.1">conditional</csymbol><apply id="S1.p3.6.m6.2.2.2.2.2.2.2.cmml" xref="S1.p3.6.m6.2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S1.p3.6.m6.2.2.2.2.2.2.2.1.cmml" xref="S1.p3.6.m6.2.2.2.2.2.2.2">subscript</csymbol><ci id="S1.p3.6.m6.2.2.2.2.2.2.2.2.cmml" xref="S1.p3.6.m6.2.2.2.2.2.2.2.2">𝑦</ci><cn id="S1.p3.6.m6.2.2.2.2.2.2.2.3.cmml" type="integer" xref="S1.p3.6.m6.2.2.2.2.2.2.2.3">2</cn></apply><ci id="S1.p3.6.m6.2.2.2.2.2.2.3.cmml" xref="S1.p3.6.m6.2.2.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="S1.p3.6.m6.4.4.4.cmml" xref="S1.p3.6.m6.4.4.4"><times id="S1.p3.6.m6.4.4.4.3.cmml" xref="S1.p3.6.m6.4.4.4.3"></times><apply id="S1.p3.6.m6.3.3.3.1.cmml" xref="S1.p3.6.m6.3.3.3.1"><ci id="S1.p3.6.m6.3.3.3.1.2.cmml" xref="S1.p3.6.m6.3.3.3.1.2">⋅</ci><apply id="S1.p3.6.m6.3.3.3.1.1.cmml" xref="S1.p3.6.m6.3.3.3.1.1"><times id="S1.p3.6.m6.3.3.3.1.1.2.cmml" xref="S1.p3.6.m6.3.3.3.1.1.2"></times><ci id="S1.p3.6.m6.3.3.3.1.1.3.cmml" xref="S1.p3.6.m6.3.3.3.1.1.3">𝑝</ci><apply id="S1.p3.6.m6.3.3.3.1.1.1.1.1.cmml" xref="S1.p3.6.m6.3.3.3.1.1.1.1"><csymbol cd="latexml" id="S1.p3.6.m6.3.3.3.1.1.1.1.1.1.cmml" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.1">conditional</csymbol><apply id="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.cmml" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.1.cmml" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.2">subscript</csymbol><ci id="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.2.cmml" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.2">𝑦</ci><cn id="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.3.cmml" type="integer" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.2.3">1</cn></apply><ci id="S1.p3.6.m6.3.3.3.1.1.1.1.1.3.cmml" xref="S1.p3.6.m6.3.3.3.1.1.1.1.1.3">𝑥</ci></apply></apply><ci id="S1.p3.6.m6.3.3.3.1.3.cmml" xref="S1.p3.6.m6.3.3.3.1.3">𝑝</ci></apply><apply id="S1.p3.6.m6.4.4.4.2.1.1.cmml" xref="S1.p3.6.m6.4.4.4.2.1"><csymbol cd="latexml" id="S1.p3.6.m6.4.4.4.2.1.1.1.cmml" xref="S1.p3.6.m6.4.4.4.2.1.1.1">conditional</csymbol><apply id="S1.p3.6.m6.4.4.4.2.1.1.2.cmml" xref="S1.p3.6.m6.4.4.4.2.1.1.2"><csymbol cd="ambiguous" id="S1.p3.6.m6.4.4.4.2.1.1.2.1.cmml" xref="S1.p3.6.m6.4.4.4.2.1.1.2">subscript</csymbol><ci id="S1.p3.6.m6.4.4.4.2.1.1.2.2.cmml" xref="S1.p3.6.m6.4.4.4.2.1.1.2.2">𝑦</ci><cn id="S1.p3.6.m6.4.4.4.2.1.1.2.3.cmml" type="integer" xref="S1.p3.6.m6.4.4.4.2.1.1.2.3">2</cn></apply><ci id="S1.p3.6.m6.4.4.4.2.1.1.3.cmml" xref="S1.p3.6.m6.4.4.4.2.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S1.p3.6.m6.4c">p(y_{1},y_{2}|x)=p(y_{1}|x)\cdot p(y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S1.p3.6.m6.4d">italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) = italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) ⋅ italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math>. In a recent paper, <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite> showed that this is enough to correctly gauge the epistemic state of the learner, but the scope was limited to classification. In fact, their approach cannot handle a regression problems, where outputs are real numbers, because the output space <math alttext="\mathcal{Y}" class="ltx_Math" display="inline" id="S1.p3.7.m7.1"><semantics id="S1.p3.7.m7.1a"><mi class="ltx_font_mathcaligraphic" id="S1.p3.7.m7.1.1" xref="S1.p3.7.m7.1.1.cmml">𝒴</mi><annotation-xml encoding="MathML-Content" id="S1.p3.7.m7.1b"><ci id="S1.p3.7.m7.1.1.cmml" xref="S1.p3.7.m7.1.1">𝒴</ci></annotation-xml><annotation encoding="application/x-tex" id="S1.p3.7.m7.1c">\mathcal{Y}</annotation><annotation encoding="application/x-llamapun" id="S1.p3.7.m7.1d">caligraphic_Y</annotation></semantics></math> is continuous.</p> </div> <div class="ltx_para" id="S1.p4"> <p class="ltx_p" id="S1.p4.1">Training using more than one output per input is not standard practice in the deep learning community. However, in experimental sciences, it is common to repeat experiments more than once, or to collect long time signals from the sensors, to be able to estimate error bounds. Thus, the envisioned scenario is important in all scientific fields where experiments can be repeated. The following advances are proposed:</p> <ul class="ltx_itemize" id="S1.I1"> <li class="ltx_item" id="S1.I1.i1" style="list-style-type:none;"> <span class="ltx_tag ltx_tag_item">•</span> <div class="ltx_para" id="S1.I1.i1.p1"> <p class="ltx_p" id="S1.I1.i1.p1.1">The approach of <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite> is extended to regression. The proposed approach is general, in the sense that it does not make hypotheses on the form of the predictive distribution, while being easy to implement as it requiring minimal changes to the model architecture.</p> </div> </li> <li class="ltx_item" id="S1.I1.i2" style="list-style-type:none;"> <span class="ltx_tag ltx_tag_item">•</span> <div class="ltx_para" id="S1.I1.i2.p1"> <p class="ltx_p" id="S1.I1.i2.p1.1">In concurrent research <cite class="ltx_cite ltx_citemacro_citep">(Durasov et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib2" title="">2024</a>)</cite>, the idea of estimating the uncertainty of a model by running it once and then feeding it back its first answer as an additional input has been demonstrated with empirical success but little theoretical justification. The mathematical developments introduced in this work provide a formal grounding for this feedback-based approach, while also highlighting some of its current limitations.</p> </div> </li> </ul> </div> <div class="ltx_para" id="S1.p5"> <p class="ltx_p" id="S1.p5.1">The effectiveness of our approach is demonstrated both on synthetic and experimental data (wind tunnel and anechoïc room measurements). The code will be made available upon acceptance of the manuscript.</p> </div> </section> <section class="ltx_section" id="S2"> <h2 class="ltx_title ltx_title_section"> <span class="ltx_tag ltx_tag_section">2 </span>Methodology</h2> <div class="ltx_para" id="S2.p1"> <p class="ltx_p" id="S2.p1.2">Rigorously, epistemic uncertainty should capture the distance between the predictive distribution <math alttext="p_{\theta}" class="ltx_Math" display="inline" id="S2.p1.1.m1.1"><semantics id="S2.p1.1.m1.1a"><msub id="S2.p1.1.m1.1.1" xref="S2.p1.1.m1.1.1.cmml"><mi id="S2.p1.1.m1.1.1.2" xref="S2.p1.1.m1.1.1.2.cmml">p</mi><mi id="S2.p1.1.m1.1.1.3" xref="S2.p1.1.m1.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.p1.1.m1.1b"><apply id="S2.p1.1.m1.1.1.cmml" xref="S2.p1.1.m1.1.1"><csymbol cd="ambiguous" id="S2.p1.1.m1.1.1.1.cmml" xref="S2.p1.1.m1.1.1">subscript</csymbol><ci id="S2.p1.1.m1.1.1.2.cmml" xref="S2.p1.1.m1.1.1.2">𝑝</ci><ci id="S2.p1.1.m1.1.1.3.cmml" xref="S2.p1.1.m1.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.p1.1.m1.1c">p_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.p1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> and the data distribution <math alttext="p" class="ltx_Math" display="inline" id="S2.p1.2.m2.1"><semantics id="S2.p1.2.m2.1a"><mi id="S2.p1.2.m2.1.1" xref="S2.p1.2.m2.1.1.cmml">p</mi><annotation-xml encoding="MathML-Content" id="S2.p1.2.m2.1b"><ci id="S2.p1.2.m2.1.1.cmml" xref="S2.p1.2.m2.1.1">𝑝</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.p1.2.m2.1c">p</annotation><annotation encoding="application/x-llamapun" id="S2.p1.2.m2.1d">italic_p</annotation></semantics></math>. Thus, it should be formalized as a probability distribution <em class="ltx_emph ltx_font_italic" id="S2.p1.2.1">over the space of probability distributions</em>. However, computing useful confidence intervals without information about the underlying distribution is impossible <cite class="ltx_cite ltx_citemacro_citep">(Low, <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib11" title="">1997</a>)</cite>, and no loss exists that incentivize the model to put forward a reliable estimation of its internal uncertainty <cite class="ltx_cite ltx_citemacro_citep">(Bengs et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib1" title="">2023</a>)</cite>.</p> </div> <div class="ltx_para" id="S2.p2"> <p class="ltx_p" id="S2.p2.2">In fact, the best that one can hope to achieve in the most general setting is a calibrated model:</p> <table class="ltx_equation ltx_eqn_table" id="S2.E1"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="p_{\theta}(y|x)\triangleq\mathbb{E}_{X\sim p(X|[x])}[p(y|X)]\;," class="ltx_Math" display="block" id="S2.E1.m1.3"><semantics id="S2.E1.m1.3a"><mrow id="S2.E1.m1.3.3.1" xref="S2.E1.m1.3.3.1.1.cmml"><mrow id="S2.E1.m1.3.3.1.1" xref="S2.E1.m1.3.3.1.1.cmml"><mrow id="S2.E1.m1.3.3.1.1.1" xref="S2.E1.m1.3.3.1.1.1.cmml"><msub id="S2.E1.m1.3.3.1.1.1.3" xref="S2.E1.m1.3.3.1.1.1.3.cmml"><mi id="S2.E1.m1.3.3.1.1.1.3.2" xref="S2.E1.m1.3.3.1.1.1.3.2.cmml">p</mi><mi id="S2.E1.m1.3.3.1.1.1.3.3" xref="S2.E1.m1.3.3.1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.E1.m1.3.3.1.1.1.2" xref="S2.E1.m1.3.3.1.1.1.2.cmml">⁢</mo><mrow id="S2.E1.m1.3.3.1.1.1.1.1" xref="S2.E1.m1.3.3.1.1.1.1.1.1.cmml"><mo id="S2.E1.m1.3.3.1.1.1.1.1.2" stretchy="false" xref="S2.E1.m1.3.3.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.E1.m1.3.3.1.1.1.1.1.1" xref="S2.E1.m1.3.3.1.1.1.1.1.1.cmml"><mi id="S2.E1.m1.3.3.1.1.1.1.1.1.2" xref="S2.E1.m1.3.3.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.E1.m1.3.3.1.1.1.1.1.1.1" xref="S2.E1.m1.3.3.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E1.m1.3.3.1.1.1.1.1.1.3" xref="S2.E1.m1.3.3.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.E1.m1.3.3.1.1.1.1.1.3" stretchy="false" xref="S2.E1.m1.3.3.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.E1.m1.3.3.1.1.3" xref="S2.E1.m1.3.3.1.1.3.cmml">≜</mo><mrow id="S2.E1.m1.3.3.1.1.2" xref="S2.E1.m1.3.3.1.1.2.cmml"><msub id="S2.E1.m1.3.3.1.1.2.3" xref="S2.E1.m1.3.3.1.1.2.3.cmml"><mi id="S2.E1.m1.3.3.1.1.2.3.2" xref="S2.E1.m1.3.3.1.1.2.3.2.cmml">𝔼</mi><mrow id="S2.E1.m1.2.2.2" xref="S2.E1.m1.2.2.2.cmml"><mi id="S2.E1.m1.2.2.2.4" xref="S2.E1.m1.2.2.2.4.cmml">X</mi><mo id="S2.E1.m1.2.2.2.3" xref="S2.E1.m1.2.2.2.3.cmml">∼</mo><mrow id="S2.E1.m1.2.2.2.2" xref="S2.E1.m1.2.2.2.2.cmml"><mi id="S2.E1.m1.2.2.2.2.3" xref="S2.E1.m1.2.2.2.2.3.cmml">p</mi><mo id="S2.E1.m1.2.2.2.2.2" xref="S2.E1.m1.2.2.2.2.2.cmml">⁢</mo><mrow id="S2.E1.m1.2.2.2.2.1.1" xref="S2.E1.m1.2.2.2.2.1.1.1.cmml"><mo id="S2.E1.m1.2.2.2.2.1.1.2" stretchy="false" xref="S2.E1.m1.2.2.2.2.1.1.1.cmml">(</mo><mrow id="S2.E1.m1.2.2.2.2.1.1.1" xref="S2.E1.m1.2.2.2.2.1.1.1.cmml"><mi id="S2.E1.m1.2.2.2.2.1.1.1.2" xref="S2.E1.m1.2.2.2.2.1.1.1.2.cmml">X</mi><mo fence="false" id="S2.E1.m1.2.2.2.2.1.1.1.1" xref="S2.E1.m1.2.2.2.2.1.1.1.1.cmml">|</mo><mrow id="S2.E1.m1.2.2.2.2.1.1.1.3.2" xref="S2.E1.m1.2.2.2.2.1.1.1.3.1.cmml"><mo id="S2.E1.m1.2.2.2.2.1.1.1.3.2.1" stretchy="false" xref="S2.E1.m1.2.2.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E1.m1.1.1.1.1" xref="S2.E1.m1.1.1.1.1.cmml">x</mi><mo id="S2.E1.m1.2.2.2.2.1.1.1.3.2.2" stretchy="false" xref="S2.E1.m1.2.2.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E1.m1.2.2.2.2.1.1.3" stretchy="false" xref="S2.E1.m1.2.2.2.2.1.1.1.cmml">)</mo></mrow></mrow></mrow></msub><mo id="S2.E1.m1.3.3.1.1.2.2" xref="S2.E1.m1.3.3.1.1.2.2.cmml">⁢</mo><mrow id="S2.E1.m1.3.3.1.1.2.1.1" xref="S2.E1.m1.3.3.1.1.2.1.2.cmml"><mo id="S2.E1.m1.3.3.1.1.2.1.1.2" stretchy="false" xref="S2.E1.m1.3.3.1.1.2.1.2.1.cmml">[</mo><mrow id="S2.E1.m1.3.3.1.1.2.1.1.1" xref="S2.E1.m1.3.3.1.1.2.1.1.1.cmml"><mi id="S2.E1.m1.3.3.1.1.2.1.1.1.3" xref="S2.E1.m1.3.3.1.1.2.1.1.1.3.cmml">p</mi><mo id="S2.E1.m1.3.3.1.1.2.1.1.1.2" xref="S2.E1.m1.3.3.1.1.2.1.1.1.2.cmml">⁢</mo><mrow id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.cmml"><mo id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.2" stretchy="false" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.cmml"><mi id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.2" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.1" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.3" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.3" stretchy="false" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.E1.m1.3.3.1.1.2.1.1.3" rspace="0.280em" stretchy="false" xref="S2.E1.m1.3.3.1.1.2.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S2.E1.m1.3.3.1.2" xref="S2.E1.m1.3.3.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E1.m1.3b"><apply id="S2.E1.m1.3.3.1.1.cmml" xref="S2.E1.m1.3.3.1"><ci id="S2.E1.m1.3.3.1.1.3.cmml" xref="S2.E1.m1.3.3.1.1.3">≜</ci><apply id="S2.E1.m1.3.3.1.1.1.cmml" xref="S2.E1.m1.3.3.1.1.1"><times id="S2.E1.m1.3.3.1.1.1.2.cmml" xref="S2.E1.m1.3.3.1.1.1.2"></times><apply id="S2.E1.m1.3.3.1.1.1.3.cmml" xref="S2.E1.m1.3.3.1.1.1.3"><csymbol cd="ambiguous" id="S2.E1.m1.3.3.1.1.1.3.1.cmml" xref="S2.E1.m1.3.3.1.1.1.3">subscript</csymbol><ci id="S2.E1.m1.3.3.1.1.1.3.2.cmml" xref="S2.E1.m1.3.3.1.1.1.3.2">𝑝</ci><ci id="S2.E1.m1.3.3.1.1.1.3.3.cmml" xref="S2.E1.m1.3.3.1.1.1.3.3">𝜃</ci></apply><apply id="S2.E1.m1.3.3.1.1.1.1.1.1.cmml" xref="S2.E1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="S2.E1.m1.3.3.1.1.1.1.1.1.1.cmml" xref="S2.E1.m1.3.3.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.E1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="S2.E1.m1.3.3.1.1.1.1.1.1.2">𝑦</ci><ci id="S2.E1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="S2.E1.m1.3.3.1.1.1.1.1.1.3">𝑥</ci></apply></apply><apply id="S2.E1.m1.3.3.1.1.2.cmml" xref="S2.E1.m1.3.3.1.1.2"><times id="S2.E1.m1.3.3.1.1.2.2.cmml" xref="S2.E1.m1.3.3.1.1.2.2"></times><apply id="S2.E1.m1.3.3.1.1.2.3.cmml" xref="S2.E1.m1.3.3.1.1.2.3"><csymbol cd="ambiguous" id="S2.E1.m1.3.3.1.1.2.3.1.cmml" xref="S2.E1.m1.3.3.1.1.2.3">subscript</csymbol><ci id="S2.E1.m1.3.3.1.1.2.3.2.cmml" xref="S2.E1.m1.3.3.1.1.2.3.2">𝔼</ci><apply id="S2.E1.m1.2.2.2.cmml" xref="S2.E1.m1.2.2.2"><csymbol cd="latexml" id="S2.E1.m1.2.2.2.3.cmml" xref="S2.E1.m1.2.2.2.3">similar-to</csymbol><ci id="S2.E1.m1.2.2.2.4.cmml" xref="S2.E1.m1.2.2.2.4">𝑋</ci><apply id="S2.E1.m1.2.2.2.2.cmml" xref="S2.E1.m1.2.2.2.2"><times id="S2.E1.m1.2.2.2.2.2.cmml" xref="S2.E1.m1.2.2.2.2.2"></times><ci id="S2.E1.m1.2.2.2.2.3.cmml" xref="S2.E1.m1.2.2.2.2.3">𝑝</ci><apply id="S2.E1.m1.2.2.2.2.1.1.1.cmml" xref="S2.E1.m1.2.2.2.2.1.1"><csymbol cd="latexml" id="S2.E1.m1.2.2.2.2.1.1.1.1.cmml" xref="S2.E1.m1.2.2.2.2.1.1.1.1">conditional</csymbol><ci id="S2.E1.m1.2.2.2.2.1.1.1.2.cmml" xref="S2.E1.m1.2.2.2.2.1.1.1.2">𝑋</ci><apply id="S2.E1.m1.2.2.2.2.1.1.1.3.1.cmml" xref="S2.E1.m1.2.2.2.2.1.1.1.3.2"><csymbol cd="latexml" id="S2.E1.m1.2.2.2.2.1.1.1.3.1.1.cmml" xref="S2.E1.m1.2.2.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E1.m1.1.1.1.1.cmml" xref="S2.E1.m1.1.1.1.1">𝑥</ci></apply></apply></apply></apply></apply><apply id="S2.E1.m1.3.3.1.1.2.1.2.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1"><csymbol cd="latexml" id="S2.E1.m1.3.3.1.1.2.1.2.1.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.2">delimited-[]</csymbol><apply id="S2.E1.m1.3.3.1.1.2.1.1.1.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.1"><times id="S2.E1.m1.3.3.1.1.2.1.1.1.2.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.1.2"></times><ci id="S2.E1.m1.3.3.1.1.2.1.1.1.3.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.1.3">𝑝</ci><apply id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1"><csymbol cd="latexml" id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.1.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.2.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.2">𝑦</ci><ci id="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.3.cmml" xref="S2.E1.m1.3.3.1.1.2.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E1.m1.3c">p_{\theta}(y|x)\triangleq\mathbb{E}_{X\sim p(X|[x])}[p(y|X)]\;,</annotation><annotation encoding="application/x-llamapun" id="S2.E1.m1.3d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) ≜ blackboard_E start_POSTSUBSCRIPT italic_X ∼ italic_p ( italic_X | [ italic_x ] ) end_POSTSUBSCRIPT [ italic_p ( italic_y | italic_X ) ] ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(1)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S2.p2.1">where <math alttext="[x]" class="ltx_Math" display="inline" id="S2.p2.1.m1.1"><semantics id="S2.p2.1.m1.1a"><mrow id="S2.p2.1.m1.1.2.2" xref="S2.p2.1.m1.1.2.1.cmml"><mo id="S2.p2.1.m1.1.2.2.1" stretchy="false" xref="S2.p2.1.m1.1.2.1.1.cmml">[</mo><mi id="S2.p2.1.m1.1.1" xref="S2.p2.1.m1.1.1.cmml">x</mi><mo id="S2.p2.1.m1.1.2.2.2" stretchy="false" xref="S2.p2.1.m1.1.2.1.1.cmml">]</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.p2.1.m1.1b"><apply id="S2.p2.1.m1.1.2.1.cmml" xref="S2.p2.1.m1.1.2.2"><csymbol cd="latexml" id="S2.p2.1.m1.1.2.1.1.cmml" xref="S2.p2.1.m1.1.2.2.1">delimited-[]</csymbol><ci id="S2.p2.1.m1.1.1.cmml" xref="S2.p2.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.p2.1.m1.1c">[x]</annotation><annotation encoding="application/x-llamapun" id="S2.p2.1.m1.1d">[ italic_x ]</annotation></semantics></math> is the equivalence class of all points that the model cannot distinguish. Such models can give a reliable information about the total uncertainty, but are unable to separate it into its aleatoric and epistemic components.</p> </div> <div class="ltx_para" id="S2.p3"> <p class="ltx_p" id="S2.p3.3">To overcome this difficulty, <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite> propose to sample the data distribution twice for each input, making sure the sample are independent. This way, the true data distribution can be factored as <math alttext="p(y_{1},y_{2}|x)=p(y_{1}|x)\cdot p(y_{2}|x)" class="ltx_Math" display="inline" id="S2.p3.1.m1.4"><semantics id="S2.p3.1.m1.4a"><mrow id="S2.p3.1.m1.4.4" xref="S2.p3.1.m1.4.4.cmml"><mrow id="S2.p3.1.m1.2.2.2" xref="S2.p3.1.m1.2.2.2.cmml"><mi id="S2.p3.1.m1.2.2.2.4" xref="S2.p3.1.m1.2.2.2.4.cmml">p</mi><mo id="S2.p3.1.m1.2.2.2.3" xref="S2.p3.1.m1.2.2.2.3.cmml">⁢</mo><mrow id="S2.p3.1.m1.2.2.2.2.2" xref="S2.p3.1.m1.2.2.2.2.3.cmml"><mo id="S2.p3.1.m1.2.2.2.2.2.3" stretchy="false" xref="S2.p3.1.m1.2.2.2.2.3.cmml">(</mo><msub id="S2.p3.1.m1.1.1.1.1.1.1" xref="S2.p3.1.m1.1.1.1.1.1.1.cmml"><mi id="S2.p3.1.m1.1.1.1.1.1.1.2" xref="S2.p3.1.m1.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.p3.1.m1.1.1.1.1.1.1.3" xref="S2.p3.1.m1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.p3.1.m1.2.2.2.2.2.4" xref="S2.p3.1.m1.2.2.2.2.3.cmml">,</mo><mrow id="S2.p3.1.m1.2.2.2.2.2.2" xref="S2.p3.1.m1.2.2.2.2.2.2.cmml"><msub id="S2.p3.1.m1.2.2.2.2.2.2.2" xref="S2.p3.1.m1.2.2.2.2.2.2.2.cmml"><mi id="S2.p3.1.m1.2.2.2.2.2.2.2.2" xref="S2.p3.1.m1.2.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.p3.1.m1.2.2.2.2.2.2.2.3" xref="S2.p3.1.m1.2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.p3.1.m1.2.2.2.2.2.2.1" xref="S2.p3.1.m1.2.2.2.2.2.2.1.cmml">|</mo><mi id="S2.p3.1.m1.2.2.2.2.2.2.3" xref="S2.p3.1.m1.2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.p3.1.m1.2.2.2.2.2.5" stretchy="false" xref="S2.p3.1.m1.2.2.2.2.3.cmml">)</mo></mrow></mrow><mo id="S2.p3.1.m1.4.4.5" xref="S2.p3.1.m1.4.4.5.cmml">=</mo><mrow id="S2.p3.1.m1.4.4.4" xref="S2.p3.1.m1.4.4.4.cmml"><mrow id="S2.p3.1.m1.3.3.3.1" xref="S2.p3.1.m1.3.3.3.1.cmml"><mrow id="S2.p3.1.m1.3.3.3.1.1" xref="S2.p3.1.m1.3.3.3.1.1.cmml"><mi id="S2.p3.1.m1.3.3.3.1.1.3" xref="S2.p3.1.m1.3.3.3.1.1.3.cmml">p</mi><mo id="S2.p3.1.m1.3.3.3.1.1.2" xref="S2.p3.1.m1.3.3.3.1.1.2.cmml">⁢</mo><mrow id="S2.p3.1.m1.3.3.3.1.1.1.1" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.cmml"><mo id="S2.p3.1.m1.3.3.3.1.1.1.1.2" stretchy="false" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.cmml">(</mo><mrow id="S2.p3.1.m1.3.3.3.1.1.1.1.1" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.cmml"><msub id="S2.p3.1.m1.3.3.3.1.1.1.1.1.2" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.cmml"><mi id="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.2" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.2.cmml">y</mi><mn id="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.3" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.p3.1.m1.3.3.3.1.1.1.1.1.1" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.1.cmml">|</mo><mi id="S2.p3.1.m1.3.3.3.1.1.1.1.1.3" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.p3.1.m1.3.3.3.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.p3.1.m1.3.3.3.1.2" rspace="0.222em" xref="S2.p3.1.m1.3.3.3.1.2.cmml">⋅</mo><mi id="S2.p3.1.m1.3.3.3.1.3" xref="S2.p3.1.m1.3.3.3.1.3.cmml">p</mi></mrow><mo id="S2.p3.1.m1.4.4.4.3" xref="S2.p3.1.m1.4.4.4.3.cmml">⁢</mo><mrow id="S2.p3.1.m1.4.4.4.2.1" xref="S2.p3.1.m1.4.4.4.2.1.1.cmml"><mo id="S2.p3.1.m1.4.4.4.2.1.2" stretchy="false" xref="S2.p3.1.m1.4.4.4.2.1.1.cmml">(</mo><mrow id="S2.p3.1.m1.4.4.4.2.1.1" xref="S2.p3.1.m1.4.4.4.2.1.1.cmml"><msub id="S2.p3.1.m1.4.4.4.2.1.1.2" xref="S2.p3.1.m1.4.4.4.2.1.1.2.cmml"><mi id="S2.p3.1.m1.4.4.4.2.1.1.2.2" xref="S2.p3.1.m1.4.4.4.2.1.1.2.2.cmml">y</mi><mn id="S2.p3.1.m1.4.4.4.2.1.1.2.3" xref="S2.p3.1.m1.4.4.4.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S2.p3.1.m1.4.4.4.2.1.1.1" xref="S2.p3.1.m1.4.4.4.2.1.1.1.cmml">|</mo><mi id="S2.p3.1.m1.4.4.4.2.1.1.3" xref="S2.p3.1.m1.4.4.4.2.1.1.3.cmml">x</mi></mrow><mo id="S2.p3.1.m1.4.4.4.2.1.3" stretchy="false" xref="S2.p3.1.m1.4.4.4.2.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.p3.1.m1.4b"><apply id="S2.p3.1.m1.4.4.cmml" xref="S2.p3.1.m1.4.4"><eq id="S2.p3.1.m1.4.4.5.cmml" xref="S2.p3.1.m1.4.4.5"></eq><apply id="S2.p3.1.m1.2.2.2.cmml" xref="S2.p3.1.m1.2.2.2"><times id="S2.p3.1.m1.2.2.2.3.cmml" xref="S2.p3.1.m1.2.2.2.3"></times><ci id="S2.p3.1.m1.2.2.2.4.cmml" xref="S2.p3.1.m1.2.2.2.4">𝑝</ci><interval closure="open" id="S2.p3.1.m1.2.2.2.2.3.cmml" xref="S2.p3.1.m1.2.2.2.2.2"><apply id="S2.p3.1.m1.1.1.1.1.1.1.cmml" xref="S2.p3.1.m1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.p3.1.m1.1.1.1.1.1.1.1.cmml" xref="S2.p3.1.m1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.p3.1.m1.1.1.1.1.1.1.2.cmml" xref="S2.p3.1.m1.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.p3.1.m1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.p3.1.m1.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.p3.1.m1.2.2.2.2.2.2.cmml" xref="S2.p3.1.m1.2.2.2.2.2.2"><csymbol cd="latexml" id="S2.p3.1.m1.2.2.2.2.2.2.1.cmml" xref="S2.p3.1.m1.2.2.2.2.2.2.1">conditional</csymbol><apply id="S2.p3.1.m1.2.2.2.2.2.2.2.cmml" xref="S2.p3.1.m1.2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.p3.1.m1.2.2.2.2.2.2.2.1.cmml" xref="S2.p3.1.m1.2.2.2.2.2.2.2">subscript</csymbol><ci id="S2.p3.1.m1.2.2.2.2.2.2.2.2.cmml" xref="S2.p3.1.m1.2.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.p3.1.m1.2.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.p3.1.m1.2.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.p3.1.m1.2.2.2.2.2.2.3.cmml" xref="S2.p3.1.m1.2.2.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="S2.p3.1.m1.4.4.4.cmml" xref="S2.p3.1.m1.4.4.4"><times id="S2.p3.1.m1.4.4.4.3.cmml" xref="S2.p3.1.m1.4.4.4.3"></times><apply id="S2.p3.1.m1.3.3.3.1.cmml" xref="S2.p3.1.m1.3.3.3.1"><ci id="S2.p3.1.m1.3.3.3.1.2.cmml" xref="S2.p3.1.m1.3.3.3.1.2">⋅</ci><apply id="S2.p3.1.m1.3.3.3.1.1.cmml" xref="S2.p3.1.m1.3.3.3.1.1"><times id="S2.p3.1.m1.3.3.3.1.1.2.cmml" xref="S2.p3.1.m1.3.3.3.1.1.2"></times><ci id="S2.p3.1.m1.3.3.3.1.1.3.cmml" xref="S2.p3.1.m1.3.3.3.1.1.3">𝑝</ci><apply id="S2.p3.1.m1.3.3.3.1.1.1.1.1.cmml" xref="S2.p3.1.m1.3.3.3.1.1.1.1"><csymbol cd="latexml" id="S2.p3.1.m1.3.3.3.1.1.1.1.1.1.cmml" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.1">conditional</csymbol><apply id="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.cmml" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.1.cmml" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.2">subscript</csymbol><ci id="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.2.cmml" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.2">𝑦</ci><cn id="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.p3.1.m1.3.3.3.1.1.1.1.1.3.cmml" xref="S2.p3.1.m1.3.3.3.1.1.1.1.1.3">𝑥</ci></apply></apply><ci id="S2.p3.1.m1.3.3.3.1.3.cmml" xref="S2.p3.1.m1.3.3.3.1.3">𝑝</ci></apply><apply id="S2.p3.1.m1.4.4.4.2.1.1.cmml" xref="S2.p3.1.m1.4.4.4.2.1"><csymbol cd="latexml" id="S2.p3.1.m1.4.4.4.2.1.1.1.cmml" xref="S2.p3.1.m1.4.4.4.2.1.1.1">conditional</csymbol><apply id="S2.p3.1.m1.4.4.4.2.1.1.2.cmml" xref="S2.p3.1.m1.4.4.4.2.1.1.2"><csymbol cd="ambiguous" id="S2.p3.1.m1.4.4.4.2.1.1.2.1.cmml" xref="S2.p3.1.m1.4.4.4.2.1.1.2">subscript</csymbol><ci id="S2.p3.1.m1.4.4.4.2.1.1.2.2.cmml" xref="S2.p3.1.m1.4.4.4.2.1.1.2.2">𝑦</ci><cn id="S2.p3.1.m1.4.4.4.2.1.1.2.3.cmml" type="integer" xref="S2.p3.1.m1.4.4.4.2.1.1.2.3">2</cn></apply><ci id="S2.p3.1.m1.4.4.4.2.1.1.3.cmml" xref="S2.p3.1.m1.4.4.4.2.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.p3.1.m1.4c">p(y_{1},y_{2}|x)=p(y_{1}|x)\cdot p(y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.p3.1.m1.4d">italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) = italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) ⋅ italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math>. This is enough to give an estimation of the epistemic uncertainty of a model trained to predict pairs <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S2.p3.2.m2.2"><semantics id="S2.p3.2.m2.2a"><mrow id="S2.p3.2.m2.2.2" xref="S2.p3.2.m2.2.2.cmml"><msub id="S2.p3.2.m2.2.2.4" xref="S2.p3.2.m2.2.2.4.cmml"><mi id="S2.p3.2.m2.2.2.4.2" xref="S2.p3.2.m2.2.2.4.2.cmml">p</mi><mi id="S2.p3.2.m2.2.2.4.3" xref="S2.p3.2.m2.2.2.4.3.cmml">θ</mi></msub><mo id="S2.p3.2.m2.2.2.3" xref="S2.p3.2.m2.2.2.3.cmml">⁢</mo><mrow id="S2.p3.2.m2.2.2.2.2" xref="S2.p3.2.m2.2.2.2.3.cmml"><mo id="S2.p3.2.m2.2.2.2.2.3" stretchy="false" xref="S2.p3.2.m2.2.2.2.3.cmml">(</mo><msub id="S2.p3.2.m2.1.1.1.1.1" xref="S2.p3.2.m2.1.1.1.1.1.cmml"><mi id="S2.p3.2.m2.1.1.1.1.1.2" xref="S2.p3.2.m2.1.1.1.1.1.2.cmml">y</mi><mn id="S2.p3.2.m2.1.1.1.1.1.3" xref="S2.p3.2.m2.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.p3.2.m2.2.2.2.2.4" xref="S2.p3.2.m2.2.2.2.3.cmml">,</mo><mrow id="S2.p3.2.m2.2.2.2.2.2" xref="S2.p3.2.m2.2.2.2.2.2.cmml"><msub id="S2.p3.2.m2.2.2.2.2.2.2" xref="S2.p3.2.m2.2.2.2.2.2.2.cmml"><mi id="S2.p3.2.m2.2.2.2.2.2.2.2" xref="S2.p3.2.m2.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.p3.2.m2.2.2.2.2.2.2.3" xref="S2.p3.2.m2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.p3.2.m2.2.2.2.2.2.1" xref="S2.p3.2.m2.2.2.2.2.2.1.cmml">|</mo><mi id="S2.p3.2.m2.2.2.2.2.2.3" xref="S2.p3.2.m2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.p3.2.m2.2.2.2.2.5" stretchy="false" xref="S2.p3.2.m2.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.p3.2.m2.2b"><apply id="S2.p3.2.m2.2.2.cmml" xref="S2.p3.2.m2.2.2"><times id="S2.p3.2.m2.2.2.3.cmml" xref="S2.p3.2.m2.2.2.3"></times><apply id="S2.p3.2.m2.2.2.4.cmml" xref="S2.p3.2.m2.2.2.4"><csymbol cd="ambiguous" id="S2.p3.2.m2.2.2.4.1.cmml" xref="S2.p3.2.m2.2.2.4">subscript</csymbol><ci id="S2.p3.2.m2.2.2.4.2.cmml" xref="S2.p3.2.m2.2.2.4.2">𝑝</ci><ci id="S2.p3.2.m2.2.2.4.3.cmml" xref="S2.p3.2.m2.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S2.p3.2.m2.2.2.2.3.cmml" xref="S2.p3.2.m2.2.2.2.2"><apply id="S2.p3.2.m2.1.1.1.1.1.cmml" xref="S2.p3.2.m2.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.p3.2.m2.1.1.1.1.1.1.cmml" xref="S2.p3.2.m2.1.1.1.1.1">subscript</csymbol><ci id="S2.p3.2.m2.1.1.1.1.1.2.cmml" xref="S2.p3.2.m2.1.1.1.1.1.2">𝑦</ci><cn id="S2.p3.2.m2.1.1.1.1.1.3.cmml" type="integer" xref="S2.p3.2.m2.1.1.1.1.1.3">1</cn></apply><apply id="S2.p3.2.m2.2.2.2.2.2.cmml" xref="S2.p3.2.m2.2.2.2.2.2"><csymbol cd="latexml" id="S2.p3.2.m2.2.2.2.2.2.1.cmml" xref="S2.p3.2.m2.2.2.2.2.2.1">conditional</csymbol><apply id="S2.p3.2.m2.2.2.2.2.2.2.cmml" xref="S2.p3.2.m2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.p3.2.m2.2.2.2.2.2.2.1.cmml" xref="S2.p3.2.m2.2.2.2.2.2.2">subscript</csymbol><ci id="S2.p3.2.m2.2.2.2.2.2.2.2.cmml" xref="S2.p3.2.m2.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.p3.2.m2.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.p3.2.m2.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.p3.2.m2.2.2.2.2.2.3.cmml" xref="S2.p3.2.m2.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.p3.2.m2.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.p3.2.m2.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math>, since any correlation between the outputs (for a given <math alttext="X=x" class="ltx_Math" display="inline" id="S2.p3.3.m3.1"><semantics id="S2.p3.3.m3.1a"><mrow id="S2.p3.3.m3.1.1" xref="S2.p3.3.m3.1.1.cmml"><mi id="S2.p3.3.m3.1.1.2" xref="S2.p3.3.m3.1.1.2.cmml">X</mi><mo id="S2.p3.3.m3.1.1.1" xref="S2.p3.3.m3.1.1.1.cmml">=</mo><mi id="S2.p3.3.m3.1.1.3" xref="S2.p3.3.m3.1.1.3.cmml">x</mi></mrow><annotation-xml encoding="MathML-Content" id="S2.p3.3.m3.1b"><apply id="S2.p3.3.m3.1.1.cmml" xref="S2.p3.3.m3.1.1"><eq id="S2.p3.3.m3.1.1.1.cmml" xref="S2.p3.3.m3.1.1.1"></eq><ci id="S2.p3.3.m3.1.1.2.cmml" xref="S2.p3.3.m3.1.1.2">𝑋</ci><ci id="S2.p3.3.m3.1.1.3.cmml" xref="S2.p3.3.m3.1.1.3">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.p3.3.m3.1c">X=x</annotation><annotation encoding="application/x-llamapun" id="S2.p3.3.m3.1d">italic_X = italic_x</annotation></semantics></math>) can only be attributed to a modeling error. This suggests to use the model covariance as a measure of the epistemic uncertainty. In particular, it will be proven that:</p> <table class="ltx_equationgroup ltx_eqn_table" id="S2.E2"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="S2.E2X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="S2.E2X.2.1.1.m1.1"><semantics id="S2.E2X.2.1.1.m1.1a"><mrow id="S2.E2X.2.1.1.m1.1.2" xref="S2.E2X.2.1.1.m1.1.2.cmml"><msub id="S2.E2X.2.1.1.m1.1.2.2" xref="S2.E2X.2.1.1.m1.1.2.2.cmml"><mi id="S2.E2X.2.1.1.m1.1.2.2.2" xref="S2.E2X.2.1.1.m1.1.2.2.2.cmml">cov</mi><mi id="S2.E2X.2.1.1.m1.1.2.2.3" xref="S2.E2X.2.1.1.m1.1.2.2.3.cmml">θ</mi></msub><mo id="S2.E2X.2.1.1.m1.1.2.1" xref="S2.E2X.2.1.1.m1.1.2.1.cmml">⁢</mo><mrow id="S2.E2X.2.1.1.m1.1.2.3.2" xref="S2.E2X.2.1.1.m1.1.2.cmml"><mo id="S2.E2X.2.1.1.m1.1.2.3.2.1" stretchy="false" xref="S2.E2X.2.1.1.m1.1.2.cmml">(</mo><mi id="S2.E2X.2.1.1.m1.1.1" xref="S2.E2X.2.1.1.m1.1.1.cmml">x</mi><mo id="S2.E2X.2.1.1.m1.1.2.3.2.2" stretchy="false" xref="S2.E2X.2.1.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.E2X.2.1.1.m1.1b"><apply id="S2.E2X.2.1.1.m1.1.2.cmml" xref="S2.E2X.2.1.1.m1.1.2"><times id="S2.E2X.2.1.1.m1.1.2.1.cmml" xref="S2.E2X.2.1.1.m1.1.2.1"></times><apply id="S2.E2X.2.1.1.m1.1.2.2.cmml" xref="S2.E2X.2.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="S2.E2X.2.1.1.m1.1.2.2.1.cmml" xref="S2.E2X.2.1.1.m1.1.2.2">subscript</csymbol><ci id="S2.E2X.2.1.1.m1.1.2.2.2.cmml" xref="S2.E2X.2.1.1.m1.1.2.2.2">cov</ci><ci id="S2.E2X.2.1.1.m1.1.2.2.3.cmml" xref="S2.E2X.2.1.1.m1.1.2.2.3">𝜃</ci></apply><ci id="S2.E2X.2.1.1.m1.1.1.cmml" xref="S2.E2X.2.1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E2X.2.1.1.m1.1c">\displaystyle\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="S2.E2X.2.1.1.m1.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\triangleq\mathbb{C}_{Y_{1},Y_{2}\sim p_{\theta}(Y_{1},Y_{2}|x)}[% Y_{1},Y_{2}]" class="ltx_Math" display="inline" id="S2.E2X.3.2.2.m1.6"><semantics id="S2.E2X.3.2.2.m1.6a"><mrow id="S2.E2X.3.2.2.m1.6.6" xref="S2.E2X.3.2.2.m1.6.6.cmml"><mi id="S2.E2X.3.2.2.m1.6.6.4" xref="S2.E2X.3.2.2.m1.6.6.4.cmml"></mi><mo id="S2.E2X.3.2.2.m1.6.6.3" xref="S2.E2X.3.2.2.m1.6.6.3.cmml">≜</mo><mrow id="S2.E2X.3.2.2.m1.6.6.2" xref="S2.E2X.3.2.2.m1.6.6.2.cmml"><msub id="S2.E2X.3.2.2.m1.6.6.2.4" xref="S2.E2X.3.2.2.m1.6.6.2.4.cmml"><mi id="S2.E2X.3.2.2.m1.6.6.2.4.2" xref="S2.E2X.3.2.2.m1.6.6.2.4.2.cmml">ℂ</mi><mrow id="S2.E2X.3.2.2.m1.4.4.4" xref="S2.E2X.3.2.2.m1.4.4.4.cmml"><mrow id="S2.E2X.3.2.2.m1.2.2.2.2.2" xref="S2.E2X.3.2.2.m1.2.2.2.2.3.cmml"><msub id="S2.E2X.3.2.2.m1.1.1.1.1.1.1" xref="S2.E2X.3.2.2.m1.1.1.1.1.1.1.cmml"><mi id="S2.E2X.3.2.2.m1.1.1.1.1.1.1.2" xref="S2.E2X.3.2.2.m1.1.1.1.1.1.1.2.cmml">Y</mi><mn id="S2.E2X.3.2.2.m1.1.1.1.1.1.1.3" xref="S2.E2X.3.2.2.m1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E2X.3.2.2.m1.2.2.2.2.2.3" xref="S2.E2X.3.2.2.m1.2.2.2.2.3.cmml">,</mo><msub id="S2.E2X.3.2.2.m1.2.2.2.2.2.2" xref="S2.E2X.3.2.2.m1.2.2.2.2.2.2.cmml"><mi id="S2.E2X.3.2.2.m1.2.2.2.2.2.2.2" xref="S2.E2X.3.2.2.m1.2.2.2.2.2.2.2.cmml">Y</mi><mn id="S2.E2X.3.2.2.m1.2.2.2.2.2.2.3" xref="S2.E2X.3.2.2.m1.2.2.2.2.2.2.3.cmml">2</mn></msub></mrow><mo id="S2.E2X.3.2.2.m1.4.4.4.5" xref="S2.E2X.3.2.2.m1.4.4.4.5.cmml">∼</mo><mrow id="S2.E2X.3.2.2.m1.4.4.4.4" xref="S2.E2X.3.2.2.m1.4.4.4.4.cmml"><msub id="S2.E2X.3.2.2.m1.4.4.4.4.4" xref="S2.E2X.3.2.2.m1.4.4.4.4.4.cmml"><mi id="S2.E2X.3.2.2.m1.4.4.4.4.4.2" xref="S2.E2X.3.2.2.m1.4.4.4.4.4.2.cmml">p</mi><mi id="S2.E2X.3.2.2.m1.4.4.4.4.4.3" xref="S2.E2X.3.2.2.m1.4.4.4.4.4.3.cmml">θ</mi></msub><mo id="S2.E2X.3.2.2.m1.4.4.4.4.3" xref="S2.E2X.3.2.2.m1.4.4.4.4.3.cmml">⁢</mo><mrow id="S2.E2X.3.2.2.m1.4.4.4.4.2.2" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.3.cmml"><mo id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.3" stretchy="false" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.3.cmml">(</mo><msub id="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1" xref="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.cmml"><mi id="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.2" xref="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.2.cmml">Y</mi><mn id="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.3" xref="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.3.cmml">1</mn></msub><mo id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.4" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.3.cmml">,</mo><mrow id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.cmml"><msub id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.cmml"><mi id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.2" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.2.cmml">Y</mi><mn id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.3" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.1" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.1.cmml">|</mo><mi id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.3" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.3.cmml">x</mi></mrow><mo id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.5" stretchy="false" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.3.cmml">)</mo></mrow></mrow></mrow></msub><mo id="S2.E2X.3.2.2.m1.6.6.2.3" xref="S2.E2X.3.2.2.m1.6.6.2.3.cmml">⁢</mo><mrow id="S2.E2X.3.2.2.m1.6.6.2.2.2" xref="S2.E2X.3.2.2.m1.6.6.2.2.3.cmml"><mo id="S2.E2X.3.2.2.m1.6.6.2.2.2.3" stretchy="false" xref="S2.E2X.3.2.2.m1.6.6.2.2.3.cmml">[</mo><msub id="S2.E2X.3.2.2.m1.5.5.1.1.1.1" xref="S2.E2X.3.2.2.m1.5.5.1.1.1.1.cmml"><mi id="S2.E2X.3.2.2.m1.5.5.1.1.1.1.2" xref="S2.E2X.3.2.2.m1.5.5.1.1.1.1.2.cmml">Y</mi><mn id="S2.E2X.3.2.2.m1.5.5.1.1.1.1.3" xref="S2.E2X.3.2.2.m1.5.5.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E2X.3.2.2.m1.6.6.2.2.2.4" xref="S2.E2X.3.2.2.m1.6.6.2.2.3.cmml">,</mo><msub id="S2.E2X.3.2.2.m1.6.6.2.2.2.2" xref="S2.E2X.3.2.2.m1.6.6.2.2.2.2.cmml"><mi id="S2.E2X.3.2.2.m1.6.6.2.2.2.2.2" xref="S2.E2X.3.2.2.m1.6.6.2.2.2.2.2.cmml">Y</mi><mn id="S2.E2X.3.2.2.m1.6.6.2.2.2.2.3" xref="S2.E2X.3.2.2.m1.6.6.2.2.2.2.3.cmml">2</mn></msub><mo id="S2.E2X.3.2.2.m1.6.6.2.2.2.5" stretchy="false" xref="S2.E2X.3.2.2.m1.6.6.2.2.3.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.E2X.3.2.2.m1.6b"><apply id="S2.E2X.3.2.2.m1.6.6.cmml" xref="S2.E2X.3.2.2.m1.6.6"><ci id="S2.E2X.3.2.2.m1.6.6.3.cmml" xref="S2.E2X.3.2.2.m1.6.6.3">≜</ci><csymbol cd="latexml" id="S2.E2X.3.2.2.m1.6.6.4.cmml" xref="S2.E2X.3.2.2.m1.6.6.4">absent</csymbol><apply id="S2.E2X.3.2.2.m1.6.6.2.cmml" xref="S2.E2X.3.2.2.m1.6.6.2"><times id="S2.E2X.3.2.2.m1.6.6.2.3.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.3"></times><apply id="S2.E2X.3.2.2.m1.6.6.2.4.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.4"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.6.6.2.4.1.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.4">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.6.6.2.4.2.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.4.2">ℂ</ci><apply id="S2.E2X.3.2.2.m1.4.4.4.cmml" xref="S2.E2X.3.2.2.m1.4.4.4"><csymbol cd="latexml" id="S2.E2X.3.2.2.m1.4.4.4.5.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.5">similar-to</csymbol><list id="S2.E2X.3.2.2.m1.2.2.2.2.3.cmml" xref="S2.E2X.3.2.2.m1.2.2.2.2.2"><apply id="S2.E2X.3.2.2.m1.1.1.1.1.1.1.cmml" xref="S2.E2X.3.2.2.m1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.1.1.1.1.1.1.1.cmml" xref="S2.E2X.3.2.2.m1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.1.1.1.1.1.1.2.cmml" xref="S2.E2X.3.2.2.m1.1.1.1.1.1.1.2">𝑌</ci><cn id="S2.E2X.3.2.2.m1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.E2X.3.2.2.m1.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.E2X.3.2.2.m1.2.2.2.2.2.2.cmml" xref="S2.E2X.3.2.2.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.2.2.2.2.2.2.1.cmml" xref="S2.E2X.3.2.2.m1.2.2.2.2.2.2">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.2.2.2.2.2.2.2.cmml" xref="S2.E2X.3.2.2.m1.2.2.2.2.2.2.2">𝑌</ci><cn id="S2.E2X.3.2.2.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.E2X.3.2.2.m1.2.2.2.2.2.2.3">2</cn></apply></list><apply id="S2.E2X.3.2.2.m1.4.4.4.4.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4"><times id="S2.E2X.3.2.2.m1.4.4.4.4.3.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.3"></times><apply id="S2.E2X.3.2.2.m1.4.4.4.4.4.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.4"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.4.4.4.4.4.1.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.4">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.4.4.4.4.4.2.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.4.2">𝑝</ci><ci id="S2.E2X.3.2.2.m1.4.4.4.4.4.3.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.4.3">𝜃</ci></apply><interval closure="open" id="S2.E2X.3.2.2.m1.4.4.4.4.2.3.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2"><apply id="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.cmml" xref="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.1.cmml" xref="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.2.cmml" xref="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.2">𝑌</ci><cn id="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.3.cmml" type="integer" xref="S2.E2X.3.2.2.m1.3.3.3.3.1.1.1.3">1</cn></apply><apply id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2"><csymbol cd="latexml" id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.1.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.1">conditional</csymbol><apply id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.1.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.2.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.2">𝑌</ci><cn id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.3.cmml" type="integer" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.2.3">2</cn></apply><ci id="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.3.cmml" xref="S2.E2X.3.2.2.m1.4.4.4.4.2.2.2.3">𝑥</ci></apply></interval></apply></apply></apply><interval closure="closed" id="S2.E2X.3.2.2.m1.6.6.2.2.3.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.2.2"><apply id="S2.E2X.3.2.2.m1.5.5.1.1.1.1.cmml" xref="S2.E2X.3.2.2.m1.5.5.1.1.1.1"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.5.5.1.1.1.1.1.cmml" xref="S2.E2X.3.2.2.m1.5.5.1.1.1.1">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.5.5.1.1.1.1.2.cmml" xref="S2.E2X.3.2.2.m1.5.5.1.1.1.1.2">𝑌</ci><cn id="S2.E2X.3.2.2.m1.5.5.1.1.1.1.3.cmml" type="integer" xref="S2.E2X.3.2.2.m1.5.5.1.1.1.1.3">1</cn></apply><apply id="S2.E2X.3.2.2.m1.6.6.2.2.2.2.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.2.2.2"><csymbol cd="ambiguous" id="S2.E2X.3.2.2.m1.6.6.2.2.2.2.1.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.2.2.2">subscript</csymbol><ci id="S2.E2X.3.2.2.m1.6.6.2.2.2.2.2.cmml" xref="S2.E2X.3.2.2.m1.6.6.2.2.2.2.2">𝑌</ci><cn id="S2.E2X.3.2.2.m1.6.6.2.2.2.2.3.cmml" type="integer" xref="S2.E2X.3.2.2.m1.6.6.2.2.2.2.3">2</cn></apply></interval></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E2X.3.2.2.m1.6c">\displaystyle\triangleq\mathbb{C}_{Y_{1},Y_{2}\sim p_{\theta}(Y_{1},Y_{2}|x)}[% Y_{1},Y_{2}]</annotation><annotation encoding="application/x-llamapun" id="S2.E2X.3.2.2.m1.6d">≜ blackboard_C start_POSTSUBSCRIPT italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ∼ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="2"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(2)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="S2.E2Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{V}_{X\sim p(X|[x])}[\mathbb{E}_{Y\sim p(Y|X)}[Y]]\;." class="ltx_Math" display="inline" id="S2.E2Xa.2.1.1.m1.5"><semantics id="S2.E2Xa.2.1.1.m1.5a"><mrow id="S2.E2Xa.2.1.1.m1.5.5.1" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.cmml"><mrow id="S2.E2Xa.2.1.1.m1.5.5.1.1" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.cmml"><mi id="S2.E2Xa.2.1.1.m1.5.5.1.1.3" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.3.cmml"></mi><mo id="S2.E2Xa.2.1.1.m1.5.5.1.1.2" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.2.cmml">=</mo><mrow id="S2.E2Xa.2.1.1.m1.5.5.1.1.1" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.cmml"><msub id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3.cmml"><mi id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3.2" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3.2.cmml">𝕍</mi><mrow id="S2.E2Xa.2.1.1.m1.2.2.2" xref="S2.E2Xa.2.1.1.m1.2.2.2.cmml"><mi id="S2.E2Xa.2.1.1.m1.2.2.2.4" xref="S2.E2Xa.2.1.1.m1.2.2.2.4.cmml">X</mi><mo id="S2.E2Xa.2.1.1.m1.2.2.2.3" xref="S2.E2Xa.2.1.1.m1.2.2.2.3.cmml">∼</mo><mrow id="S2.E2Xa.2.1.1.m1.2.2.2.2" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.cmml"><mi id="S2.E2Xa.2.1.1.m1.2.2.2.2.3" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.3.cmml">p</mi><mo id="S2.E2Xa.2.1.1.m1.2.2.2.2.2" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.2.cmml">⁢</mo><mrow id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.cmml"><mo id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.2" stretchy="false" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.cmml">(</mo><mrow id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.cmml"><mi id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.2" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.2.cmml">X</mi><mo fence="false" id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.1.cmml">|</mo><mrow id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.2" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.1.cmml"><mo id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.2.1" stretchy="false" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E2Xa.2.1.1.m1.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.1.1.1.1.cmml">x</mi><mo id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.2.2" stretchy="false" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.3" stretchy="false" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.cmml">)</mo></mrow></mrow></mrow></msub><mo id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.2" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.2.cmml">⁢</mo><mrow id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.2.cmml"><mo id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.2" stretchy="false" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.cmml"><msub id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml"><mi id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.2" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.2.cmml">𝔼</mi><mrow id="S2.E2Xa.2.1.1.m1.3.3.1" xref="S2.E2Xa.2.1.1.m1.3.3.1.cmml"><mi id="S2.E2Xa.2.1.1.m1.3.3.1.3" xref="S2.E2Xa.2.1.1.m1.3.3.1.3.cmml">Y</mi><mo id="S2.E2Xa.2.1.1.m1.3.3.1.2" xref="S2.E2Xa.2.1.1.m1.3.3.1.2.cmml">∼</mo><mrow id="S2.E2Xa.2.1.1.m1.3.3.1.1" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.cmml"><mi id="S2.E2Xa.2.1.1.m1.3.3.1.1.3" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.3.cmml">p</mi><mo id="S2.E2Xa.2.1.1.m1.3.3.1.1.2" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mo id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml">(</mo><mrow id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mi id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.2" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.3" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow></msub><mo id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml">⁢</mo><mrow id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.2" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.1.cmml"><mo id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.1" stretchy="false" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E2Xa.2.1.1.m1.4.4" xref="S2.E2Xa.2.1.1.m1.4.4.cmml">Y</mi><mo id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.2" stretchy="false" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.3" stretchy="false" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S2.E2Xa.2.1.1.m1.5.5.1.2" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E2Xa.2.1.1.m1.5b"><apply id="S2.E2Xa.2.1.1.m1.5.5.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1"><eq id="S2.E2Xa.2.1.1.m1.5.5.1.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.2"></eq><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.5.5.1.1.3.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.3">absent</csymbol><apply id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1"><times id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.2"></times><apply id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3"><csymbol cd="ambiguous" id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3">subscript</csymbol><ci id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3.2.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.3.2">𝕍</ci><apply id="S2.E2Xa.2.1.1.m1.2.2.2.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2"><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.2.2.2.3.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.3">similar-to</csymbol><ci id="S2.E2Xa.2.1.1.m1.2.2.2.4.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.4">𝑋</ci><apply id="S2.E2Xa.2.1.1.m1.2.2.2.2.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2"><times id="S2.E2Xa.2.1.1.m1.2.2.2.2.2.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.2"></times><ci id="S2.E2Xa.2.1.1.m1.2.2.2.2.3.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.3">𝑝</ci><apply id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1"><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.1">conditional</csymbol><ci id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.2">𝑋</ci><apply id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.1.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.2"><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.2.2.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E2Xa.2.1.1.m1.1.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.1.1.1.1">𝑥</ci></apply></apply></apply></apply></apply><apply id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1"><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.2.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1"><times id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1"></times><apply id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.2.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.2">𝔼</ci><apply id="S2.E2Xa.2.1.1.m1.3.3.1.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1"><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.3.3.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.2">similar-to</csymbol><ci id="S2.E2Xa.2.1.1.m1.3.3.1.3.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.3">𝑌</ci><apply id="S2.E2Xa.2.1.1.m1.3.3.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.1"><times id="S2.E2Xa.2.1.1.m1.3.3.1.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.2"></times><ci id="S2.E2Xa.2.1.1.m1.3.3.1.1.3.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.3">𝑝</ci><apply id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.1">conditional</csymbol><ci id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.2">𝑌</ci><ci id="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.3.cmml" xref="S2.E2Xa.2.1.1.m1.3.3.1.1.1.1.1.3">𝑋</ci></apply></apply></apply></apply><apply id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.2"><csymbol cd="latexml" id="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.1.1.cmml" xref="S2.E2Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E2Xa.2.1.1.m1.4.4.cmml" xref="S2.E2Xa.2.1.1.m1.4.4">𝑌</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E2Xa.2.1.1.m1.5c">\displaystyle=\mathbb{V}_{X\sim p(X|[x])}[\mathbb{E}_{Y\sim p(Y|X)}[Y]]\;.</annotation><annotation encoding="application/x-llamapun" id="S2.E2Xa.2.1.1.m1.5d">= blackboard_V start_POSTSUBSCRIPT italic_X ∼ italic_p ( italic_X | [ italic_x ] ) end_POSTSUBSCRIPT [ blackboard_E start_POSTSUBSCRIPT italic_Y ∼ italic_p ( italic_Y | italic_X ) end_POSTSUBSCRIPT [ italic_Y ] ] .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="S2.p3.4">This implies that the model covariance gives a measure of the grouping loss; i.e. the epistemic error arising from lumping together points into <math alttext="[x]" class="ltx_Math" display="inline" id="S2.p3.4.m1.1"><semantics id="S2.p3.4.m1.1a"><mrow id="S2.p3.4.m1.1.2.2" xref="S2.p3.4.m1.1.2.1.cmml"><mo id="S2.p3.4.m1.1.2.2.1" stretchy="false" xref="S2.p3.4.m1.1.2.1.1.cmml">[</mo><mi id="S2.p3.4.m1.1.1" xref="S2.p3.4.m1.1.1.cmml">x</mi><mo id="S2.p3.4.m1.1.2.2.2" stretchy="false" xref="S2.p3.4.m1.1.2.1.1.cmml">]</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.p3.4.m1.1b"><apply id="S2.p3.4.m1.1.2.1.cmml" xref="S2.p3.4.m1.1.2.2"><csymbol cd="latexml" id="S2.p3.4.m1.1.2.1.1.cmml" xref="S2.p3.4.m1.1.2.2.1">delimited-[]</csymbol><ci id="S2.p3.4.m1.1.1.cmml" xref="S2.p3.4.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.p3.4.m1.1c">[x]</annotation><annotation encoding="application/x-llamapun" id="S2.p3.4.m1.1d">[ italic_x ]</annotation></semantics></math> which should instead be distinguished. Incidentally, grouping loss is the only epistemic error present in a perfectly calibrated model.</p> </div> <section class="ltx_subsection" id="S2.SS1"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">2.1 </span>Formalization</h3> <div class="ltx_para" id="S2.SS1.p1"> <p class="ltx_p" id="S2.SS1.p1.8">Let <math alttext="(X,Y)\in\mathcal{X}\times\mathcal{Y}" class="ltx_Math" display="inline" id="S2.SS1.p1.1.m1.2"><semantics id="S2.SS1.p1.1.m1.2a"><mrow id="S2.SS1.p1.1.m1.2.3" xref="S2.SS1.p1.1.m1.2.3.cmml"><mrow id="S2.SS1.p1.1.m1.2.3.2.2" xref="S2.SS1.p1.1.m1.2.3.2.1.cmml"><mo id="S2.SS1.p1.1.m1.2.3.2.2.1" stretchy="false" xref="S2.SS1.p1.1.m1.2.3.2.1.cmml">(</mo><mi id="S2.SS1.p1.1.m1.1.1" xref="S2.SS1.p1.1.m1.1.1.cmml">X</mi><mo id="S2.SS1.p1.1.m1.2.3.2.2.2" xref="S2.SS1.p1.1.m1.2.3.2.1.cmml">,</mo><mi id="S2.SS1.p1.1.m1.2.2" xref="S2.SS1.p1.1.m1.2.2.cmml">Y</mi><mo id="S2.SS1.p1.1.m1.2.3.2.2.3" stretchy="false" xref="S2.SS1.p1.1.m1.2.3.2.1.cmml">)</mo></mrow><mo id="S2.SS1.p1.1.m1.2.3.1" xref="S2.SS1.p1.1.m1.2.3.1.cmml">∈</mo><mrow id="S2.SS1.p1.1.m1.2.3.3" xref="S2.SS1.p1.1.m1.2.3.3.cmml"><mi class="ltx_font_mathcaligraphic" id="S2.SS1.p1.1.m1.2.3.3.2" xref="S2.SS1.p1.1.m1.2.3.3.2.cmml">𝒳</mi><mo id="S2.SS1.p1.1.m1.2.3.3.1" lspace="0.222em" rspace="0.222em" xref="S2.SS1.p1.1.m1.2.3.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="S2.SS1.p1.1.m1.2.3.3.3" xref="S2.SS1.p1.1.m1.2.3.3.3.cmml">𝒴</mi></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.1.m1.2b"><apply id="S2.SS1.p1.1.m1.2.3.cmml" xref="S2.SS1.p1.1.m1.2.3"><in id="S2.SS1.p1.1.m1.2.3.1.cmml" xref="S2.SS1.p1.1.m1.2.3.1"></in><interval closure="open" id="S2.SS1.p1.1.m1.2.3.2.1.cmml" xref="S2.SS1.p1.1.m1.2.3.2.2"><ci id="S2.SS1.p1.1.m1.1.1.cmml" xref="S2.SS1.p1.1.m1.1.1">𝑋</ci><ci id="S2.SS1.p1.1.m1.2.2.cmml" xref="S2.SS1.p1.1.m1.2.2">𝑌</ci></interval><apply id="S2.SS1.p1.1.m1.2.3.3.cmml" xref="S2.SS1.p1.1.m1.2.3.3"><times id="S2.SS1.p1.1.m1.2.3.3.1.cmml" xref="S2.SS1.p1.1.m1.2.3.3.1"></times><ci id="S2.SS1.p1.1.m1.2.3.3.2.cmml" xref="S2.SS1.p1.1.m1.2.3.3.2">𝒳</ci><ci id="S2.SS1.p1.1.m1.2.3.3.3.cmml" xref="S2.SS1.p1.1.m1.2.3.3.3">𝒴</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.1.m1.2c">(X,Y)\in\mathcal{X}\times\mathcal{Y}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.1.m1.2d">( italic_X , italic_Y ) ∈ caligraphic_X × caligraphic_Y</annotation></semantics></math> be random variables with joint distribution <math alttext="p(X,Y)" class="ltx_Math" display="inline" id="S2.SS1.p1.2.m2.2"><semantics id="S2.SS1.p1.2.m2.2a"><mrow id="S2.SS1.p1.2.m2.2.3" xref="S2.SS1.p1.2.m2.2.3.cmml"><mi id="S2.SS1.p1.2.m2.2.3.2" xref="S2.SS1.p1.2.m2.2.3.2.cmml">p</mi><mo id="S2.SS1.p1.2.m2.2.3.1" xref="S2.SS1.p1.2.m2.2.3.1.cmml">⁢</mo><mrow id="S2.SS1.p1.2.m2.2.3.3.2" xref="S2.SS1.p1.2.m2.2.3.3.1.cmml"><mo id="S2.SS1.p1.2.m2.2.3.3.2.1" stretchy="false" xref="S2.SS1.p1.2.m2.2.3.3.1.cmml">(</mo><mi id="S2.SS1.p1.2.m2.1.1" xref="S2.SS1.p1.2.m2.1.1.cmml">X</mi><mo id="S2.SS1.p1.2.m2.2.3.3.2.2" xref="S2.SS1.p1.2.m2.2.3.3.1.cmml">,</mo><mi id="S2.SS1.p1.2.m2.2.2" xref="S2.SS1.p1.2.m2.2.2.cmml">Y</mi><mo id="S2.SS1.p1.2.m2.2.3.3.2.3" stretchy="false" xref="S2.SS1.p1.2.m2.2.3.3.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.2.m2.2b"><apply id="S2.SS1.p1.2.m2.2.3.cmml" xref="S2.SS1.p1.2.m2.2.3"><times id="S2.SS1.p1.2.m2.2.3.1.cmml" xref="S2.SS1.p1.2.m2.2.3.1"></times><ci id="S2.SS1.p1.2.m2.2.3.2.cmml" xref="S2.SS1.p1.2.m2.2.3.2">𝑝</ci><interval closure="open" id="S2.SS1.p1.2.m2.2.3.3.1.cmml" xref="S2.SS1.p1.2.m2.2.3.3.2"><ci id="S2.SS1.p1.2.m2.1.1.cmml" xref="S2.SS1.p1.2.m2.1.1">𝑋</ci><ci id="S2.SS1.p1.2.m2.2.2.cmml" xref="S2.SS1.p1.2.m2.2.2">𝑌</ci></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.2.m2.2c">p(X,Y)</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.2.m2.2d">italic_p ( italic_X , italic_Y )</annotation></semantics></math>, which we will refer to as the input and output, respectively. Typically, <math alttext="X" class="ltx_Math" display="inline" id="S2.SS1.p1.3.m3.1"><semantics id="S2.SS1.p1.3.m3.1a"><mi id="S2.SS1.p1.3.m3.1.1" xref="S2.SS1.p1.3.m3.1.1.cmml">X</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.3.m3.1b"><ci id="S2.SS1.p1.3.m3.1.1.cmml" xref="S2.SS1.p1.3.m3.1.1">𝑋</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.3.m3.1c">X</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.3.m3.1d">italic_X</annotation></semantics></math> characterizes the state of a physical system while <math alttext="Y" class="ltx_Math" display="inline" id="S2.SS1.p1.4.m4.1"><semantics id="S2.SS1.p1.4.m4.1a"><mi id="S2.SS1.p1.4.m4.1.1" xref="S2.SS1.p1.4.m4.1.1.cmml">Y</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.4.m4.1b"><ci id="S2.SS1.p1.4.m4.1.1.cmml" xref="S2.SS1.p1.4.m4.1.1">𝑌</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.4.m4.1c">Y</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.4.m4.1d">italic_Y</annotation></semantics></math> represents how the system performs while in that state and it is assumed that there is a functional relationship between one and the other. Thus, the main quantity of interest is the conditional distribution <math alttext="p(Y|X=x)" class="ltx_Math" display="inline" id="S2.SS1.p1.5.m5.1"><semantics id="S2.SS1.p1.5.m5.1a"><mrow id="S2.SS1.p1.5.m5.1.1" xref="S2.SS1.p1.5.m5.1.1.cmml"><mi id="S2.SS1.p1.5.m5.1.1.3" xref="S2.SS1.p1.5.m5.1.1.3.cmml">p</mi><mo id="S2.SS1.p1.5.m5.1.1.2" xref="S2.SS1.p1.5.m5.1.1.2.cmml">⁢</mo><mrow id="S2.SS1.p1.5.m5.1.1.1.1" xref="S2.SS1.p1.5.m5.1.1.1.1.1.cmml"><mo id="S2.SS1.p1.5.m5.1.1.1.1.2" stretchy="false" xref="S2.SS1.p1.5.m5.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS1.p1.5.m5.1.1.1.1.1" xref="S2.SS1.p1.5.m5.1.1.1.1.1.cmml"><mrow id="S2.SS1.p1.5.m5.1.1.1.1.1.2" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2.cmml"><mi id="S2.SS1.p1.5.m5.1.1.1.1.1.2.2" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2.2.cmml">Y</mi><mo fence="false" id="S2.SS1.p1.5.m5.1.1.1.1.1.2.1" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2.1.cmml">|</mo><mi id="S2.SS1.p1.5.m5.1.1.1.1.1.2.3" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2.3.cmml">X</mi></mrow><mo id="S2.SS1.p1.5.m5.1.1.1.1.1.1" xref="S2.SS1.p1.5.m5.1.1.1.1.1.1.cmml">=</mo><mi id="S2.SS1.p1.5.m5.1.1.1.1.1.3" xref="S2.SS1.p1.5.m5.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS1.p1.5.m5.1.1.1.1.3" stretchy="false" xref="S2.SS1.p1.5.m5.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.5.m5.1b"><apply id="S2.SS1.p1.5.m5.1.1.cmml" xref="S2.SS1.p1.5.m5.1.1"><times id="S2.SS1.p1.5.m5.1.1.2.cmml" xref="S2.SS1.p1.5.m5.1.1.2"></times><ci id="S2.SS1.p1.5.m5.1.1.3.cmml" xref="S2.SS1.p1.5.m5.1.1.3">𝑝</ci><apply id="S2.SS1.p1.5.m5.1.1.1.1.1.cmml" xref="S2.SS1.p1.5.m5.1.1.1.1"><eq id="S2.SS1.p1.5.m5.1.1.1.1.1.1.cmml" xref="S2.SS1.p1.5.m5.1.1.1.1.1.1"></eq><apply id="S2.SS1.p1.5.m5.1.1.1.1.1.2.cmml" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2"><csymbol cd="latexml" id="S2.SS1.p1.5.m5.1.1.1.1.1.2.1.cmml" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2.1">conditional</csymbol><ci id="S2.SS1.p1.5.m5.1.1.1.1.1.2.2.cmml" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2.2">𝑌</ci><ci id="S2.SS1.p1.5.m5.1.1.1.1.1.2.3.cmml" xref="S2.SS1.p1.5.m5.1.1.1.1.1.2.3">𝑋</ci></apply><ci id="S2.SS1.p1.5.m5.1.1.1.1.1.3.cmml" xref="S2.SS1.p1.5.m5.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.5.m5.1c">p(Y|X=x)</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.5.m5.1d">italic_p ( italic_Y | italic_X = italic_x )</annotation></semantics></math>, which represents how much uncertainty on the value of <math alttext="Y" class="ltx_Math" display="inline" id="S2.SS1.p1.6.m6.1"><semantics id="S2.SS1.p1.6.m6.1a"><mi id="S2.SS1.p1.6.m6.1.1" xref="S2.SS1.p1.6.m6.1.1.cmml">Y</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.6.m6.1b"><ci id="S2.SS1.p1.6.m6.1.1.cmml" xref="S2.SS1.p1.6.m6.1.1">𝑌</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.6.m6.1c">Y</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.6.m6.1d">italic_Y</annotation></semantics></math> remains after observing a specific value <math alttext="x" class="ltx_Math" display="inline" id="S2.SS1.p1.7.m7.1"><semantics id="S2.SS1.p1.7.m7.1a"><mi id="S2.SS1.p1.7.m7.1.1" xref="S2.SS1.p1.7.m7.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.7.m7.1b"><ci id="S2.SS1.p1.7.m7.1.1.cmml" xref="S2.SS1.p1.7.m7.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.7.m7.1c">x</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.7.m7.1d">italic_x</annotation></semantics></math> of <math alttext="X" class="ltx_Math" display="inline" id="S2.SS1.p1.8.m8.1"><semantics id="S2.SS1.p1.8.m8.1a"><mi id="S2.SS1.p1.8.m8.1.1" xref="S2.SS1.p1.8.m8.1.1.cmml">X</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p1.8.m8.1b"><ci id="S2.SS1.p1.8.m8.1.1.cmml" xref="S2.SS1.p1.8.m8.1.1">𝑋</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p1.8.m8.1c">X</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p1.8.m8.1d">italic_X</annotation></semantics></math>.</p> </div> <div class="ltx_para" id="S2.SS1.p2"> <p class="ltx_p" id="S2.SS1.p2.9">To fully capture this uncertainty, the functional relationship between <math alttext="X" class="ltx_Math" display="inline" id="S2.SS1.p2.1.m1.1"><semantics id="S2.SS1.p2.1.m1.1a"><mi id="S2.SS1.p2.1.m1.1.1" xref="S2.SS1.p2.1.m1.1.1.cmml">X</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.1.m1.1b"><ci id="S2.SS1.p2.1.m1.1.1.cmml" xref="S2.SS1.p2.1.m1.1.1">𝑋</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.1.m1.1c">X</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.1.m1.1d">italic_X</annotation></semantics></math> and <math alttext="Y" class="ltx_Math" display="inline" id="S2.SS1.p2.2.m2.1"><semantics id="S2.SS1.p2.2.m2.1a"><mi id="S2.SS1.p2.2.m2.1.1" xref="S2.SS1.p2.2.m2.1.1.cmml">Y</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.2.m2.1b"><ci id="S2.SS1.p2.2.m2.1.1.cmml" xref="S2.SS1.p2.2.m2.1.1">𝑌</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.2.m2.1c">Y</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.2.m2.1d">italic_Y</annotation></semantics></math> must be modeled using a full probability density over <math alttext="\mathcal{Y}" class="ltx_Math" display="inline" id="S2.SS1.p2.3.m3.1"><semantics id="S2.SS1.p2.3.m3.1a"><mi class="ltx_font_mathcaligraphic" id="S2.SS1.p2.3.m3.1.1" xref="S2.SS1.p2.3.m3.1.1.cmml">𝒴</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.3.m3.1b"><ci id="S2.SS1.p2.3.m3.1.1.cmml" xref="S2.SS1.p2.3.m3.1.1">𝒴</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.3.m3.1c">\mathcal{Y}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.3.m3.1d">caligraphic_Y</annotation></semantics></math>, rather than a single value. To approximate the true posterior probability <math alttext="p(Y|X=x)" class="ltx_Math" display="inline" id="S2.SS1.p2.4.m4.1"><semantics id="S2.SS1.p2.4.m4.1a"><mrow id="S2.SS1.p2.4.m4.1.1" xref="S2.SS1.p2.4.m4.1.1.cmml"><mi id="S2.SS1.p2.4.m4.1.1.3" xref="S2.SS1.p2.4.m4.1.1.3.cmml">p</mi><mo id="S2.SS1.p2.4.m4.1.1.2" xref="S2.SS1.p2.4.m4.1.1.2.cmml">⁢</mo><mrow id="S2.SS1.p2.4.m4.1.1.1.1" xref="S2.SS1.p2.4.m4.1.1.1.1.1.cmml"><mo id="S2.SS1.p2.4.m4.1.1.1.1.2" stretchy="false" xref="S2.SS1.p2.4.m4.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS1.p2.4.m4.1.1.1.1.1" xref="S2.SS1.p2.4.m4.1.1.1.1.1.cmml"><mrow id="S2.SS1.p2.4.m4.1.1.1.1.1.2" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2.cmml"><mi id="S2.SS1.p2.4.m4.1.1.1.1.1.2.2" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2.2.cmml">Y</mi><mo fence="false" id="S2.SS1.p2.4.m4.1.1.1.1.1.2.1" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2.1.cmml">|</mo><mi id="S2.SS1.p2.4.m4.1.1.1.1.1.2.3" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2.3.cmml">X</mi></mrow><mo id="S2.SS1.p2.4.m4.1.1.1.1.1.1" xref="S2.SS1.p2.4.m4.1.1.1.1.1.1.cmml">=</mo><mi id="S2.SS1.p2.4.m4.1.1.1.1.1.3" xref="S2.SS1.p2.4.m4.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS1.p2.4.m4.1.1.1.1.3" stretchy="false" xref="S2.SS1.p2.4.m4.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.4.m4.1b"><apply id="S2.SS1.p2.4.m4.1.1.cmml" xref="S2.SS1.p2.4.m4.1.1"><times id="S2.SS1.p2.4.m4.1.1.2.cmml" xref="S2.SS1.p2.4.m4.1.1.2"></times><ci id="S2.SS1.p2.4.m4.1.1.3.cmml" xref="S2.SS1.p2.4.m4.1.1.3">𝑝</ci><apply id="S2.SS1.p2.4.m4.1.1.1.1.1.cmml" xref="S2.SS1.p2.4.m4.1.1.1.1"><eq id="S2.SS1.p2.4.m4.1.1.1.1.1.1.cmml" xref="S2.SS1.p2.4.m4.1.1.1.1.1.1"></eq><apply id="S2.SS1.p2.4.m4.1.1.1.1.1.2.cmml" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2"><csymbol cd="latexml" id="S2.SS1.p2.4.m4.1.1.1.1.1.2.1.cmml" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2.1">conditional</csymbol><ci id="S2.SS1.p2.4.m4.1.1.1.1.1.2.2.cmml" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2.2">𝑌</ci><ci id="S2.SS1.p2.4.m4.1.1.1.1.1.2.3.cmml" xref="S2.SS1.p2.4.m4.1.1.1.1.1.2.3">𝑋</ci></apply><ci id="S2.SS1.p2.4.m4.1.1.1.1.1.3.cmml" xref="S2.SS1.p2.4.m4.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.4.m4.1c">p(Y|X=x)</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.4.m4.1d">italic_p ( italic_Y | italic_X = italic_x )</annotation></semantics></math> , a probabilistic model <math alttext="p_{\theta}(Y|X=x):\mathcal{X}\to\Delta_{\mathcal{Y}}" class="ltx_Math" display="inline" id="S2.SS1.p2.5.m5.1"><semantics id="S2.SS1.p2.5.m5.1a"><mrow id="S2.SS1.p2.5.m5.1.1" xref="S2.SS1.p2.5.m5.1.1.cmml"><mrow id="S2.SS1.p2.5.m5.1.1.1" xref="S2.SS1.p2.5.m5.1.1.1.cmml"><msub id="S2.SS1.p2.5.m5.1.1.1.3" xref="S2.SS1.p2.5.m5.1.1.1.3.cmml"><mi id="S2.SS1.p2.5.m5.1.1.1.3.2" xref="S2.SS1.p2.5.m5.1.1.1.3.2.cmml">p</mi><mi id="S2.SS1.p2.5.m5.1.1.1.3.3" xref="S2.SS1.p2.5.m5.1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.SS1.p2.5.m5.1.1.1.2" xref="S2.SS1.p2.5.m5.1.1.1.2.cmml">⁢</mo><mrow id="S2.SS1.p2.5.m5.1.1.1.1.1" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.cmml"><mo id="S2.SS1.p2.5.m5.1.1.1.1.1.2" stretchy="false" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS1.p2.5.m5.1.1.1.1.1.1" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.cmml"><mrow id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.cmml"><mi id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.2" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.2.cmml">Y</mi><mo fence="false" id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.1" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.1.cmml">|</mo><mi id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.3" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.3.cmml">X</mi></mrow><mo id="S2.SS1.p2.5.m5.1.1.1.1.1.1.1" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.1.cmml">=</mo><mi id="S2.SS1.p2.5.m5.1.1.1.1.1.1.3" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS1.p2.5.m5.1.1.1.1.1.3" rspace="0.278em" stretchy="false" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.SS1.p2.5.m5.1.1.2" rspace="0.278em" xref="S2.SS1.p2.5.m5.1.1.2.cmml">:</mo><mrow id="S2.SS1.p2.5.m5.1.1.3" xref="S2.SS1.p2.5.m5.1.1.3.cmml"><mi class="ltx_font_mathcaligraphic" id="S2.SS1.p2.5.m5.1.1.3.2" xref="S2.SS1.p2.5.m5.1.1.3.2.cmml">𝒳</mi><mo id="S2.SS1.p2.5.m5.1.1.3.1" stretchy="false" xref="S2.SS1.p2.5.m5.1.1.3.1.cmml">→</mo><msub id="S2.SS1.p2.5.m5.1.1.3.3" xref="S2.SS1.p2.5.m5.1.1.3.3.cmml"><mi id="S2.SS1.p2.5.m5.1.1.3.3.2" mathvariant="normal" xref="S2.SS1.p2.5.m5.1.1.3.3.2.cmml">Δ</mi><mi class="ltx_font_mathcaligraphic" id="S2.SS1.p2.5.m5.1.1.3.3.3" xref="S2.SS1.p2.5.m5.1.1.3.3.3.cmml">𝒴</mi></msub></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.5.m5.1b"><apply id="S2.SS1.p2.5.m5.1.1.cmml" xref="S2.SS1.p2.5.m5.1.1"><ci id="S2.SS1.p2.5.m5.1.1.2.cmml" xref="S2.SS1.p2.5.m5.1.1.2">:</ci><apply id="S2.SS1.p2.5.m5.1.1.1.cmml" xref="S2.SS1.p2.5.m5.1.1.1"><times id="S2.SS1.p2.5.m5.1.1.1.2.cmml" xref="S2.SS1.p2.5.m5.1.1.1.2"></times><apply id="S2.SS1.p2.5.m5.1.1.1.3.cmml" xref="S2.SS1.p2.5.m5.1.1.1.3"><csymbol cd="ambiguous" id="S2.SS1.p2.5.m5.1.1.1.3.1.cmml" xref="S2.SS1.p2.5.m5.1.1.1.3">subscript</csymbol><ci id="S2.SS1.p2.5.m5.1.1.1.3.2.cmml" xref="S2.SS1.p2.5.m5.1.1.1.3.2">𝑝</ci><ci id="S2.SS1.p2.5.m5.1.1.1.3.3.cmml" xref="S2.SS1.p2.5.m5.1.1.1.3.3">𝜃</ci></apply><apply id="S2.SS1.p2.5.m5.1.1.1.1.1.1.cmml" xref="S2.SS1.p2.5.m5.1.1.1.1.1"><eq id="S2.SS1.p2.5.m5.1.1.1.1.1.1.1.cmml" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.1"></eq><apply id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.cmml" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2"><csymbol cd="latexml" id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.1.cmml" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.1">conditional</csymbol><ci id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.2.cmml" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.2">𝑌</ci><ci id="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.3.cmml" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.2.3">𝑋</ci></apply><ci id="S2.SS1.p2.5.m5.1.1.1.1.1.1.3.cmml" xref="S2.SS1.p2.5.m5.1.1.1.1.1.1.3">𝑥</ci></apply></apply><apply id="S2.SS1.p2.5.m5.1.1.3.cmml" xref="S2.SS1.p2.5.m5.1.1.3"><ci id="S2.SS1.p2.5.m5.1.1.3.1.cmml" xref="S2.SS1.p2.5.m5.1.1.3.1">→</ci><ci id="S2.SS1.p2.5.m5.1.1.3.2.cmml" xref="S2.SS1.p2.5.m5.1.1.3.2">𝒳</ci><apply id="S2.SS1.p2.5.m5.1.1.3.3.cmml" xref="S2.SS1.p2.5.m5.1.1.3.3"><csymbol cd="ambiguous" id="S2.SS1.p2.5.m5.1.1.3.3.1.cmml" xref="S2.SS1.p2.5.m5.1.1.3.3">subscript</csymbol><ci id="S2.SS1.p2.5.m5.1.1.3.3.2.cmml" xref="S2.SS1.p2.5.m5.1.1.3.3.2">Δ</ci><ci id="S2.SS1.p2.5.m5.1.1.3.3.3.cmml" xref="S2.SS1.p2.5.m5.1.1.3.3.3">𝒴</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.5.m5.1c">p_{\theta}(Y|X=x):\mathcal{X}\to\Delta_{\mathcal{Y}}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.5.m5.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y | italic_X = italic_x ) : caligraphic_X → roman_Δ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT</annotation></semantics></math> is introduced, where <math alttext="\Delta_{\mathcal{Y}}" class="ltx_Math" display="inline" id="S2.SS1.p2.6.m6.1"><semantics id="S2.SS1.p2.6.m6.1a"><msub id="S2.SS1.p2.6.m6.1.1" xref="S2.SS1.p2.6.m6.1.1.cmml"><mi id="S2.SS1.p2.6.m6.1.1.2" mathvariant="normal" xref="S2.SS1.p2.6.m6.1.1.2.cmml">Δ</mi><mi class="ltx_font_mathcaligraphic" id="S2.SS1.p2.6.m6.1.1.3" xref="S2.SS1.p2.6.m6.1.1.3.cmml">𝒴</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.6.m6.1b"><apply id="S2.SS1.p2.6.m6.1.1.cmml" xref="S2.SS1.p2.6.m6.1.1"><csymbol cd="ambiguous" id="S2.SS1.p2.6.m6.1.1.1.cmml" xref="S2.SS1.p2.6.m6.1.1">subscript</csymbol><ci id="S2.SS1.p2.6.m6.1.1.2.cmml" xref="S2.SS1.p2.6.m6.1.1.2">Δ</ci><ci id="S2.SS1.p2.6.m6.1.1.3.cmml" xref="S2.SS1.p2.6.m6.1.1.3">𝒴</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.6.m6.1c">\Delta_{\mathcal{Y}}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.6.m6.1d">roman_Δ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT</annotation></semantics></math> is the space of probability density functions over <math alttext="\mathcal{Y}" class="ltx_Math" display="inline" id="S2.SS1.p2.7.m7.1"><semantics id="S2.SS1.p2.7.m7.1a"><mi class="ltx_font_mathcaligraphic" id="S2.SS1.p2.7.m7.1.1" xref="S2.SS1.p2.7.m7.1.1.cmml">𝒴</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.7.m7.1b"><ci id="S2.SS1.p2.7.m7.1.1.cmml" xref="S2.SS1.p2.7.m7.1.1">𝒴</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.7.m7.1c">\mathcal{Y}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.7.m7.1d">caligraphic_Y</annotation></semantics></math>. In practice, <math alttext="p_{\theta}" class="ltx_Math" display="inline" id="S2.SS1.p2.8.m8.1"><semantics id="S2.SS1.p2.8.m8.1a"><msub id="S2.SS1.p2.8.m8.1.1" xref="S2.SS1.p2.8.m8.1.1.cmml"><mi id="S2.SS1.p2.8.m8.1.1.2" xref="S2.SS1.p2.8.m8.1.1.2.cmml">p</mi><mi id="S2.SS1.p2.8.m8.1.1.3" xref="S2.SS1.p2.8.m8.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.8.m8.1b"><apply id="S2.SS1.p2.8.m8.1.1.cmml" xref="S2.SS1.p2.8.m8.1.1"><csymbol cd="ambiguous" id="S2.SS1.p2.8.m8.1.1.1.cmml" xref="S2.SS1.p2.8.m8.1.1">subscript</csymbol><ci id="S2.SS1.p2.8.m8.1.1.2.cmml" xref="S2.SS1.p2.8.m8.1.1.2">𝑝</ci><ci id="S2.SS1.p2.8.m8.1.1.3.cmml" xref="S2.SS1.p2.8.m8.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.8.m8.1c">p_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.8.m8.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> is typically implemented using a deep network with weights <math alttext="\theta" class="ltx_Math" display="inline" id="S2.SS1.p2.9.m9.1"><semantics id="S2.SS1.p2.9.m9.1a"><mi id="S2.SS1.p2.9.m9.1.1" xref="S2.SS1.p2.9.m9.1.1.cmml">θ</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p2.9.m9.1b"><ci id="S2.SS1.p2.9.m9.1.1.cmml" xref="S2.SS1.p2.9.m9.1.1">𝜃</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p2.9.m9.1c">\theta</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p2.9.m9.1d">italic_θ</annotation></semantics></math>, learned as discussed below.</p> </div> <div class="ltx_para" id="S2.SS1.p3"> <p class="ltx_p" id="S2.SS1.p3.4">Throughout the paper, expectation operators taken with respect to the predicted distribution will be denoted by <math alttext="\mathbb{E}_{Y\sim p_{\theta}(Y|x)}[Y]\triangleq\mathbb{E}_{\theta}[Y|x]" class="ltx_Math" display="inline" id="S2.SS1.p3.1.m1.3"><semantics id="S2.SS1.p3.1.m1.3a"><mrow id="S2.SS1.p3.1.m1.3.3" xref="S2.SS1.p3.1.m1.3.3.cmml"><mrow id="S2.SS1.p3.1.m1.3.3.3" xref="S2.SS1.p3.1.m1.3.3.3.cmml"><msub id="S2.SS1.p3.1.m1.3.3.3.2" xref="S2.SS1.p3.1.m1.3.3.3.2.cmml"><mi id="S2.SS1.p3.1.m1.3.3.3.2.2" xref="S2.SS1.p3.1.m1.3.3.3.2.2.cmml">𝔼</mi><mrow id="S2.SS1.p3.1.m1.1.1.1" xref="S2.SS1.p3.1.m1.1.1.1.cmml"><mi id="S2.SS1.p3.1.m1.1.1.1.3" xref="S2.SS1.p3.1.m1.1.1.1.3.cmml">Y</mi><mo id="S2.SS1.p3.1.m1.1.1.1.2" xref="S2.SS1.p3.1.m1.1.1.1.2.cmml">∼</mo><mrow id="S2.SS1.p3.1.m1.1.1.1.1" xref="S2.SS1.p3.1.m1.1.1.1.1.cmml"><msub id="S2.SS1.p3.1.m1.1.1.1.1.3" xref="S2.SS1.p3.1.m1.1.1.1.1.3.cmml"><mi id="S2.SS1.p3.1.m1.1.1.1.1.3.2" xref="S2.SS1.p3.1.m1.1.1.1.1.3.2.cmml">p</mi><mi id="S2.SS1.p3.1.m1.1.1.1.1.3.3" xref="S2.SS1.p3.1.m1.1.1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.SS1.p3.1.m1.1.1.1.1.2" xref="S2.SS1.p3.1.m1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.SS1.p3.1.m1.1.1.1.1.1.1" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.cmml"><mo id="S2.SS1.p3.1.m1.1.1.1.1.1.1.2" stretchy="false" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.cmml"><mi id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.2" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.1" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.3" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS1.p3.1.m1.1.1.1.1.1.1.3" stretchy="false" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow></msub><mo id="S2.SS1.p3.1.m1.3.3.3.1" xref="S2.SS1.p3.1.m1.3.3.3.1.cmml">⁢</mo><mrow id="S2.SS1.p3.1.m1.3.3.3.3.2" xref="S2.SS1.p3.1.m1.3.3.3.3.1.cmml"><mo id="S2.SS1.p3.1.m1.3.3.3.3.2.1" stretchy="false" xref="S2.SS1.p3.1.m1.3.3.3.3.1.1.cmml">[</mo><mi id="S2.SS1.p3.1.m1.2.2" xref="S2.SS1.p3.1.m1.2.2.cmml">Y</mi><mo id="S2.SS1.p3.1.m1.3.3.3.3.2.2" stretchy="false" xref="S2.SS1.p3.1.m1.3.3.3.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.SS1.p3.1.m1.3.3.2" xref="S2.SS1.p3.1.m1.3.3.2.cmml">≜</mo><mrow id="S2.SS1.p3.1.m1.3.3.1" xref="S2.SS1.p3.1.m1.3.3.1.cmml"><msub id="S2.SS1.p3.1.m1.3.3.1.3" xref="S2.SS1.p3.1.m1.3.3.1.3.cmml"><mi id="S2.SS1.p3.1.m1.3.3.1.3.2" xref="S2.SS1.p3.1.m1.3.3.1.3.2.cmml">𝔼</mi><mi id="S2.SS1.p3.1.m1.3.3.1.3.3" xref="S2.SS1.p3.1.m1.3.3.1.3.3.cmml">θ</mi></msub><mo id="S2.SS1.p3.1.m1.3.3.1.2" xref="S2.SS1.p3.1.m1.3.3.1.2.cmml">⁢</mo><mrow id="S2.SS1.p3.1.m1.3.3.1.1.1" xref="S2.SS1.p3.1.m1.3.3.1.1.2.cmml"><mo id="S2.SS1.p3.1.m1.3.3.1.1.1.2" stretchy="false" xref="S2.SS1.p3.1.m1.3.3.1.1.2.1.cmml">[</mo><mrow id="S2.SS1.p3.1.m1.3.3.1.1.1.1" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1.cmml"><mi id="S2.SS1.p3.1.m1.3.3.1.1.1.1.2" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.SS1.p3.1.m1.3.3.1.1.1.1.1" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1.1.cmml">|</mo><mi id="S2.SS1.p3.1.m1.3.3.1.1.1.1.3" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS1.p3.1.m1.3.3.1.1.1.3" stretchy="false" xref="S2.SS1.p3.1.m1.3.3.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS1.p3.1.m1.3b"><apply id="S2.SS1.p3.1.m1.3.3.cmml" xref="S2.SS1.p3.1.m1.3.3"><ci id="S2.SS1.p3.1.m1.3.3.2.cmml" xref="S2.SS1.p3.1.m1.3.3.2">≜</ci><apply id="S2.SS1.p3.1.m1.3.3.3.cmml" xref="S2.SS1.p3.1.m1.3.3.3"><times id="S2.SS1.p3.1.m1.3.3.3.1.cmml" xref="S2.SS1.p3.1.m1.3.3.3.1"></times><apply id="S2.SS1.p3.1.m1.3.3.3.2.cmml" xref="S2.SS1.p3.1.m1.3.3.3.2"><csymbol cd="ambiguous" id="S2.SS1.p3.1.m1.3.3.3.2.1.cmml" xref="S2.SS1.p3.1.m1.3.3.3.2">subscript</csymbol><ci id="S2.SS1.p3.1.m1.3.3.3.2.2.cmml" xref="S2.SS1.p3.1.m1.3.3.3.2.2">𝔼</ci><apply id="S2.SS1.p3.1.m1.1.1.1.cmml" xref="S2.SS1.p3.1.m1.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.1.m1.1.1.1.2.cmml" xref="S2.SS1.p3.1.m1.1.1.1.2">similar-to</csymbol><ci id="S2.SS1.p3.1.m1.1.1.1.3.cmml" xref="S2.SS1.p3.1.m1.1.1.1.3">𝑌</ci><apply id="S2.SS1.p3.1.m1.1.1.1.1.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1"><times id="S2.SS1.p3.1.m1.1.1.1.1.2.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.2"></times><apply id="S2.SS1.p3.1.m1.1.1.1.1.3.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.3"><csymbol cd="ambiguous" id="S2.SS1.p3.1.m1.1.1.1.1.3.1.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.3">subscript</csymbol><ci id="S2.SS1.p3.1.m1.1.1.1.1.3.2.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.3.2">𝑝</ci><ci id="S2.SS1.p3.1.m1.1.1.1.1.3.3.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.3.3">𝜃</ci></apply><apply id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.1.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.2.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.3.cmml" xref="S2.SS1.p3.1.m1.1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply><apply id="S2.SS1.p3.1.m1.3.3.3.3.1.cmml" xref="S2.SS1.p3.1.m1.3.3.3.3.2"><csymbol cd="latexml" id="S2.SS1.p3.1.m1.3.3.3.3.1.1.cmml" xref="S2.SS1.p3.1.m1.3.3.3.3.2.1">delimited-[]</csymbol><ci id="S2.SS1.p3.1.m1.2.2.cmml" xref="S2.SS1.p3.1.m1.2.2">𝑌</ci></apply></apply><apply id="S2.SS1.p3.1.m1.3.3.1.cmml" xref="S2.SS1.p3.1.m1.3.3.1"><times id="S2.SS1.p3.1.m1.3.3.1.2.cmml" xref="S2.SS1.p3.1.m1.3.3.1.2"></times><apply id="S2.SS1.p3.1.m1.3.3.1.3.cmml" xref="S2.SS1.p3.1.m1.3.3.1.3"><csymbol cd="ambiguous" id="S2.SS1.p3.1.m1.3.3.1.3.1.cmml" xref="S2.SS1.p3.1.m1.3.3.1.3">subscript</csymbol><ci id="S2.SS1.p3.1.m1.3.3.1.3.2.cmml" xref="S2.SS1.p3.1.m1.3.3.1.3.2">𝔼</ci><ci id="S2.SS1.p3.1.m1.3.3.1.3.3.cmml" xref="S2.SS1.p3.1.m1.3.3.1.3.3">𝜃</ci></apply><apply id="S2.SS1.p3.1.m1.3.3.1.1.2.cmml" xref="S2.SS1.p3.1.m1.3.3.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.1.m1.3.3.1.1.2.1.cmml" xref="S2.SS1.p3.1.m1.3.3.1.1.1.2">delimited-[]</csymbol><apply id="S2.SS1.p3.1.m1.3.3.1.1.1.1.cmml" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.1.m1.3.3.1.1.1.1.1.cmml" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1.1">conditional</csymbol><ci id="S2.SS1.p3.1.m1.3.3.1.1.1.1.2.cmml" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1.2">𝑌</ci><ci id="S2.SS1.p3.1.m1.3.3.1.1.1.1.3.cmml" xref="S2.SS1.p3.1.m1.3.3.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p3.1.m1.3c">\mathbb{E}_{Y\sim p_{\theta}(Y|x)}[Y]\triangleq\mathbb{E}_{\theta}[Y|x]</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p3.1.m1.3d">blackboard_E start_POSTSUBSCRIPT italic_Y ∼ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y | italic_x ) end_POSTSUBSCRIPT [ italic_Y ] ≜ blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ]</annotation></semantics></math>, for notational simplicity. Similarly, expectation with respect to the data distribution will be denoted as <math alttext="\mathbb{E}_{Y\sim p(Y|x)}[Y]\triangleq\mathbb{E}[Y|x]" class="ltx_Math" display="inline" id="S2.SS1.p3.2.m2.3"><semantics id="S2.SS1.p3.2.m2.3a"><mrow id="S2.SS1.p3.2.m2.3.3" xref="S2.SS1.p3.2.m2.3.3.cmml"><mrow id="S2.SS1.p3.2.m2.3.3.3" xref="S2.SS1.p3.2.m2.3.3.3.cmml"><msub id="S2.SS1.p3.2.m2.3.3.3.2" xref="S2.SS1.p3.2.m2.3.3.3.2.cmml"><mi id="S2.SS1.p3.2.m2.3.3.3.2.2" xref="S2.SS1.p3.2.m2.3.3.3.2.2.cmml">𝔼</mi><mrow id="S2.SS1.p3.2.m2.1.1.1" xref="S2.SS1.p3.2.m2.1.1.1.cmml"><mi id="S2.SS1.p3.2.m2.1.1.1.3" xref="S2.SS1.p3.2.m2.1.1.1.3.cmml">Y</mi><mo id="S2.SS1.p3.2.m2.1.1.1.2" xref="S2.SS1.p3.2.m2.1.1.1.2.cmml">∼</mo><mrow id="S2.SS1.p3.2.m2.1.1.1.1" xref="S2.SS1.p3.2.m2.1.1.1.1.cmml"><mi id="S2.SS1.p3.2.m2.1.1.1.1.3" xref="S2.SS1.p3.2.m2.1.1.1.1.3.cmml">p</mi><mo id="S2.SS1.p3.2.m2.1.1.1.1.2" xref="S2.SS1.p3.2.m2.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.SS1.p3.2.m2.1.1.1.1.1.1" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.cmml"><mo id="S2.SS1.p3.2.m2.1.1.1.1.1.1.2" stretchy="false" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.cmml"><mi id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.2" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.1" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.3" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS1.p3.2.m2.1.1.1.1.1.1.3" stretchy="false" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow></msub><mo id="S2.SS1.p3.2.m2.3.3.3.1" xref="S2.SS1.p3.2.m2.3.3.3.1.cmml">⁢</mo><mrow id="S2.SS1.p3.2.m2.3.3.3.3.2" xref="S2.SS1.p3.2.m2.3.3.3.3.1.cmml"><mo id="S2.SS1.p3.2.m2.3.3.3.3.2.1" stretchy="false" xref="S2.SS1.p3.2.m2.3.3.3.3.1.1.cmml">[</mo><mi id="S2.SS1.p3.2.m2.2.2" xref="S2.SS1.p3.2.m2.2.2.cmml">Y</mi><mo id="S2.SS1.p3.2.m2.3.3.3.3.2.2" stretchy="false" xref="S2.SS1.p3.2.m2.3.3.3.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.SS1.p3.2.m2.3.3.2" xref="S2.SS1.p3.2.m2.3.3.2.cmml">≜</mo><mrow id="S2.SS1.p3.2.m2.3.3.1" xref="S2.SS1.p3.2.m2.3.3.1.cmml"><mi id="S2.SS1.p3.2.m2.3.3.1.3" xref="S2.SS1.p3.2.m2.3.3.1.3.cmml">𝔼</mi><mo id="S2.SS1.p3.2.m2.3.3.1.2" xref="S2.SS1.p3.2.m2.3.3.1.2.cmml">⁢</mo><mrow id="S2.SS1.p3.2.m2.3.3.1.1.1" xref="S2.SS1.p3.2.m2.3.3.1.1.2.cmml"><mo id="S2.SS1.p3.2.m2.3.3.1.1.1.2" stretchy="false" xref="S2.SS1.p3.2.m2.3.3.1.1.2.1.cmml">[</mo><mrow id="S2.SS1.p3.2.m2.3.3.1.1.1.1" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1.cmml"><mi id="S2.SS1.p3.2.m2.3.3.1.1.1.1.2" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.SS1.p3.2.m2.3.3.1.1.1.1.1" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1.1.cmml">|</mo><mi id="S2.SS1.p3.2.m2.3.3.1.1.1.1.3" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS1.p3.2.m2.3.3.1.1.1.3" stretchy="false" xref="S2.SS1.p3.2.m2.3.3.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS1.p3.2.m2.3b"><apply id="S2.SS1.p3.2.m2.3.3.cmml" xref="S2.SS1.p3.2.m2.3.3"><ci id="S2.SS1.p3.2.m2.3.3.2.cmml" xref="S2.SS1.p3.2.m2.3.3.2">≜</ci><apply id="S2.SS1.p3.2.m2.3.3.3.cmml" xref="S2.SS1.p3.2.m2.3.3.3"><times id="S2.SS1.p3.2.m2.3.3.3.1.cmml" xref="S2.SS1.p3.2.m2.3.3.3.1"></times><apply id="S2.SS1.p3.2.m2.3.3.3.2.cmml" xref="S2.SS1.p3.2.m2.3.3.3.2"><csymbol cd="ambiguous" id="S2.SS1.p3.2.m2.3.3.3.2.1.cmml" xref="S2.SS1.p3.2.m2.3.3.3.2">subscript</csymbol><ci id="S2.SS1.p3.2.m2.3.3.3.2.2.cmml" xref="S2.SS1.p3.2.m2.3.3.3.2.2">𝔼</ci><apply id="S2.SS1.p3.2.m2.1.1.1.cmml" xref="S2.SS1.p3.2.m2.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.2.m2.1.1.1.2.cmml" xref="S2.SS1.p3.2.m2.1.1.1.2">similar-to</csymbol><ci id="S2.SS1.p3.2.m2.1.1.1.3.cmml" xref="S2.SS1.p3.2.m2.1.1.1.3">𝑌</ci><apply id="S2.SS1.p3.2.m2.1.1.1.1.cmml" xref="S2.SS1.p3.2.m2.1.1.1.1"><times id="S2.SS1.p3.2.m2.1.1.1.1.2.cmml" xref="S2.SS1.p3.2.m2.1.1.1.1.2"></times><ci id="S2.SS1.p3.2.m2.1.1.1.1.3.cmml" xref="S2.SS1.p3.2.m2.1.1.1.1.3">𝑝</ci><apply id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.cmml" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.1.cmml" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.2.cmml" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.3.cmml" xref="S2.SS1.p3.2.m2.1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply><apply id="S2.SS1.p3.2.m2.3.3.3.3.1.cmml" xref="S2.SS1.p3.2.m2.3.3.3.3.2"><csymbol cd="latexml" id="S2.SS1.p3.2.m2.3.3.3.3.1.1.cmml" xref="S2.SS1.p3.2.m2.3.3.3.3.2.1">delimited-[]</csymbol><ci id="S2.SS1.p3.2.m2.2.2.cmml" xref="S2.SS1.p3.2.m2.2.2">𝑌</ci></apply></apply><apply id="S2.SS1.p3.2.m2.3.3.1.cmml" xref="S2.SS1.p3.2.m2.3.3.1"><times id="S2.SS1.p3.2.m2.3.3.1.2.cmml" xref="S2.SS1.p3.2.m2.3.3.1.2"></times><ci id="S2.SS1.p3.2.m2.3.3.1.3.cmml" xref="S2.SS1.p3.2.m2.3.3.1.3">𝔼</ci><apply id="S2.SS1.p3.2.m2.3.3.1.1.2.cmml" xref="S2.SS1.p3.2.m2.3.3.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.2.m2.3.3.1.1.2.1.cmml" xref="S2.SS1.p3.2.m2.3.3.1.1.1.2">delimited-[]</csymbol><apply id="S2.SS1.p3.2.m2.3.3.1.1.1.1.cmml" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1"><csymbol cd="latexml" id="S2.SS1.p3.2.m2.3.3.1.1.1.1.1.cmml" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1.1">conditional</csymbol><ci id="S2.SS1.p3.2.m2.3.3.1.1.1.1.2.cmml" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1.2">𝑌</ci><ci id="S2.SS1.p3.2.m2.3.3.1.1.1.1.3.cmml" xref="S2.SS1.p3.2.m2.3.3.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p3.2.m2.3c">\mathbb{E}_{Y\sim p(Y|x)}[Y]\triangleq\mathbb{E}[Y|x]</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p3.2.m2.3d">blackboard_E start_POSTSUBSCRIPT italic_Y ∼ italic_p ( italic_Y | italic_x ) end_POSTSUBSCRIPT [ italic_Y ] ≜ blackboard_E [ italic_Y | italic_x ]</annotation></semantics></math>. The same will be true for variance and covariance operators <math alttext="\mathbb{V}" class="ltx_Math" display="inline" id="S2.SS1.p3.3.m3.1"><semantics id="S2.SS1.p3.3.m3.1a"><mi id="S2.SS1.p3.3.m3.1.1" xref="S2.SS1.p3.3.m3.1.1.cmml">𝕍</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p3.3.m3.1b"><ci id="S2.SS1.p3.3.m3.1.1.cmml" xref="S2.SS1.p3.3.m3.1.1">𝕍</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p3.3.m3.1c">\mathbb{V}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p3.3.m3.1d">blackboard_V</annotation></semantics></math> and <math alttext="\mathbb{C}" class="ltx_Math" display="inline" id="S2.SS1.p3.4.m4.1"><semantics id="S2.SS1.p3.4.m4.1a"><mi id="S2.SS1.p3.4.m4.1.1" xref="S2.SS1.p3.4.m4.1.1.cmml">ℂ</mi><annotation-xml encoding="MathML-Content" id="S2.SS1.p3.4.m4.1b"><ci id="S2.SS1.p3.4.m4.1.1.cmml" xref="S2.SS1.p3.4.m4.1.1">ℂ</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS1.p3.4.m4.1c">\mathbb{C}</annotation><annotation encoding="application/x-llamapun" id="S2.SS1.p3.4.m4.1d">blackboard_C</annotation></semantics></math>. The proofs of theorems stated in the remainder of this section are given in appendix <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A1" title="Appendix A Proofs of the theorems ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">A</span></a>.</p> </div> </section> <section class="ltx_subsection" id="S2.SS2"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">2.2 </span>Calibration</h3> <div class="ltx_para" id="S2.SS2.p1"> <p class="ltx_p" id="S2.SS2.p1.1">Calibration is one of the main metrics used to evaluate the quality of a probabilistic model, such as <math alttext="p_{\theta}" class="ltx_Math" display="inline" id="S2.SS2.p1.1.m1.1"><semantics id="S2.SS2.p1.1.m1.1a"><msub id="S2.SS2.p1.1.m1.1.1" xref="S2.SS2.p1.1.m1.1.1.cmml"><mi id="S2.SS2.p1.1.m1.1.1.2" xref="S2.SS2.p1.1.m1.1.1.2.cmml">p</mi><mi id="S2.SS2.p1.1.m1.1.1.3" xref="S2.SS2.p1.1.m1.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS2.p1.1.m1.1b"><apply id="S2.SS2.p1.1.m1.1.1.cmml" xref="S2.SS2.p1.1.m1.1.1"><csymbol cd="ambiguous" id="S2.SS2.p1.1.m1.1.1.1.cmml" xref="S2.SS2.p1.1.m1.1.1">subscript</csymbol><ci id="S2.SS2.p1.1.m1.1.1.2.cmml" xref="S2.SS2.p1.1.m1.1.1.2">𝑝</ci><ci id="S2.SS2.p1.1.m1.1.1.3.cmml" xref="S2.SS2.p1.1.m1.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p1.1.m1.1c">p_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math>. Informally speaking, a calibrated model produces the correct distribution on average. In this context, the average is taken over all inputs that the model cannot distinguish: within this set, the model is allowed to make mistakes provided they end up canceling out at the end. A more rigorous and widely used description is:</p> </div> <div class="ltx_theorem ltx_theorem_definition" id="S2.Thmtheorem1"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem1.1.1.1">Definition 2.1</span></span><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem1.2.2">.</span> </h6> <div class="ltx_para" id="S2.Thmtheorem1.p1"> <p class="ltx_p" id="S2.Thmtheorem1.p1.3">Let <math alttext="[x]" class="ltx_Math" display="inline" id="S2.Thmtheorem1.p1.1.m1.1"><semantics id="S2.Thmtheorem1.p1.1.m1.1a"><mrow id="S2.Thmtheorem1.p1.1.m1.1.2.2" xref="S2.Thmtheorem1.p1.1.m1.1.2.1.cmml"><mo id="S2.Thmtheorem1.p1.1.m1.1.2.2.1" stretchy="false" xref="S2.Thmtheorem1.p1.1.m1.1.2.1.1.cmml">[</mo><mi id="S2.Thmtheorem1.p1.1.m1.1.1" xref="S2.Thmtheorem1.p1.1.m1.1.1.cmml">x</mi><mo id="S2.Thmtheorem1.p1.1.m1.1.2.2.2" stretchy="false" xref="S2.Thmtheorem1.p1.1.m1.1.2.1.1.cmml">]</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem1.p1.1.m1.1b"><apply id="S2.Thmtheorem1.p1.1.m1.1.2.1.cmml" xref="S2.Thmtheorem1.p1.1.m1.1.2.2"><csymbol cd="latexml" id="S2.Thmtheorem1.p1.1.m1.1.2.1.1.cmml" xref="S2.Thmtheorem1.p1.1.m1.1.2.2.1">delimited-[]</csymbol><ci id="S2.Thmtheorem1.p1.1.m1.1.1.cmml" xref="S2.Thmtheorem1.p1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem1.p1.1.m1.1c">[x]</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem1.p1.1.m1.1d">[ italic_x ]</annotation></semantics></math> be the equivalence class <math alttext="\{x^{\prime}|\;p_{\theta}(y|x^{\prime})=p_{\theta}(y|x),\;\forall y\in\mathcal% {Y}\}" class="ltx_Math" display="inline" id="S2.Thmtheorem1.p1.2.m2.2"><semantics id="S2.Thmtheorem1.p1.2.m2.2a"><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.3.cmml"><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.3" stretchy="false" xref="S2.Thmtheorem1.p1.2.m2.2.2.3.1.cmml">{</mo><msup id="S2.Thmtheorem1.p1.2.m2.1.1.1.1" xref="S2.Thmtheorem1.p1.2.m2.1.1.1.1.cmml"><mi id="S2.Thmtheorem1.p1.2.m2.1.1.1.1.2" xref="S2.Thmtheorem1.p1.2.m2.1.1.1.1.2.cmml">x</mi><mo id="S2.Thmtheorem1.p1.2.m2.1.1.1.1.3" xref="S2.Thmtheorem1.p1.2.m2.1.1.1.1.3.cmml">′</mo></msup><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.4" lspace="0em" xref="S2.Thmtheorem1.p1.2.m2.2.2.3.1.cmml">|</mo><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.3.cmml"><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.cmml"><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.cmml"><msub id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.cmml"><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.2.cmml">p</mi><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.2.cmml">⁢</mo><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.cmml"><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.2" stretchy="false" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.1.cmml">|</mo><msup id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.cmml"><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.3" stretchy="false" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.3.cmml">=</mo><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.cmml"><msub id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.cmml"><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.2.cmml">p</mi><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.2.cmml">⁢</mo><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.cmml"><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.2" stretchy="false" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.cmml"><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.1.cmml">|</mo><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.3" stretchy="false" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.3" rspace="0.447em" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.3a.cmml">,</mo><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.cmml"><mrow id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.cmml"><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.1" rspace="0.167em" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.1.cmml">∀</mo><mi id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.2" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.2.cmml">y</mi></mrow><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.1" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.1.cmml">∈</mo><mi class="ltx_font_mathcaligraphic" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.3" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.3.cmml">𝒴</mi></mrow></mrow><mo id="S2.Thmtheorem1.p1.2.m2.2.2.2.5" stretchy="false" xref="S2.Thmtheorem1.p1.2.m2.2.2.3.1.cmml">}</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem1.p1.2.m2.2b"><apply id="S2.Thmtheorem1.p1.2.m2.2.2.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2"><csymbol cd="latexml" id="S2.Thmtheorem1.p1.2.m2.2.2.3.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.3">conditional-set</csymbol><apply id="S2.Thmtheorem1.p1.2.m2.1.1.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.1.1.1.1"><csymbol cd="ambiguous" id="S2.Thmtheorem1.p1.2.m2.1.1.1.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.1.1.1.1">superscript</csymbol><ci id="S2.Thmtheorem1.p1.2.m2.1.1.1.1.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.1.1.1.1.2">𝑥</ci><ci id="S2.Thmtheorem1.p1.2.m2.1.1.1.1.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.1.1.1.1.3">′</ci></apply><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.3a.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.3">formulae-sequence</csymbol><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1"><eq id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.3"></eq><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1"><times id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.2"></times><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3"><csymbol cd="ambiguous" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3">subscript</csymbol><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.2">𝑝</ci><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.3.3">𝜃</ci></apply><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1"><csymbol cd="latexml" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.2">𝑦</ci><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3">superscript</csymbol><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.2">𝑥</ci><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.1.1.1.1.3.3">′</ci></apply></apply></apply><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2"><times id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.2"></times><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3"><csymbol cd="ambiguous" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3">subscript</csymbol><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.2">𝑝</ci><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.3.3">𝜃</ci></apply><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1"><csymbol cd="latexml" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.1">conditional</csymbol><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.2">𝑦</ci><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.1.1.2.1.1.1.3">𝑥</ci></apply></apply></apply><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2"><in id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.1"></in><apply id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2"><csymbol cd="latexml" id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.1">for-all</csymbol><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.2.2">𝑦</ci></apply><ci id="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.3.cmml" xref="S2.Thmtheorem1.p1.2.m2.2.2.2.2.2.2.3">𝒴</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem1.p1.2.m2.2c">\{x^{\prime}|\;p_{\theta}(y|x^{\prime})=p_{\theta}(y|x),\;\forall y\in\mathcal% {Y}\}</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem1.p1.2.m2.2d">{ italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) = italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) , ∀ italic_y ∈ caligraphic_Y }</annotation></semantics></math>. A model <math alttext="p_{\theta}(y|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem1.p1.3.m3.1"><semantics id="S2.Thmtheorem1.p1.3.m3.1a"><mrow id="S2.Thmtheorem1.p1.3.m3.1.1" xref="S2.Thmtheorem1.p1.3.m3.1.1.cmml"><msub id="S2.Thmtheorem1.p1.3.m3.1.1.3" xref="S2.Thmtheorem1.p1.3.m3.1.1.3.cmml"><mi id="S2.Thmtheorem1.p1.3.m3.1.1.3.2" xref="S2.Thmtheorem1.p1.3.m3.1.1.3.2.cmml">p</mi><mi id="S2.Thmtheorem1.p1.3.m3.1.1.3.3" xref="S2.Thmtheorem1.p1.3.m3.1.1.3.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem1.p1.3.m3.1.1.2" xref="S2.Thmtheorem1.p1.3.m3.1.1.2.cmml">⁢</mo><mrow id="S2.Thmtheorem1.p1.3.m3.1.1.1.1" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml"><mo id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.2" stretchy="false" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.2" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.1" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.3" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.3" stretchy="false" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem1.p1.3.m3.1b"><apply id="S2.Thmtheorem1.p1.3.m3.1.1.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1"><times id="S2.Thmtheorem1.p1.3.m3.1.1.2.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.2"></times><apply id="S2.Thmtheorem1.p1.3.m3.1.1.3.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.3"><csymbol cd="ambiguous" id="S2.Thmtheorem1.p1.3.m3.1.1.3.1.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.3">subscript</csymbol><ci id="S2.Thmtheorem1.p1.3.m3.1.1.3.2.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.3.2">𝑝</ci><ci id="S2.Thmtheorem1.p1.3.m3.1.1.3.3.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.3.3">𝜃</ci></apply><apply id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1"><csymbol cd="latexml" id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.2">𝑦</ci><ci id="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.3.cmml" xref="S2.Thmtheorem1.p1.3.m3.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem1.p1.3.m3.1c">p_{\theta}(y|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem1.p1.3.m3.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x )</annotation></semantics></math> is said to be first-order distribution calibrated if:</p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx1"> <tbody id="S2.Ex1"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle p_{\theta}(y|x)" class="ltx_Math" display="inline" id="S2.Ex1.m1.1"><semantics id="S2.Ex1.m1.1a"><mrow id="S2.Ex1.m1.1.1" xref="S2.Ex1.m1.1.1.cmml"><msub id="S2.Ex1.m1.1.1.3" xref="S2.Ex1.m1.1.1.3.cmml"><mi id="S2.Ex1.m1.1.1.3.2" xref="S2.Ex1.m1.1.1.3.2.cmml">p</mi><mi id="S2.Ex1.m1.1.1.3.3" xref="S2.Ex1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.Ex1.m1.1.1.2" xref="S2.Ex1.m1.1.1.2.cmml">⁢</mo><mrow id="S2.Ex1.m1.1.1.1.1" xref="S2.Ex1.m1.1.1.1.1.1.cmml"><mo id="S2.Ex1.m1.1.1.1.1.2" stretchy="false" xref="S2.Ex1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S2.Ex1.m1.1.1.1.1.1" xref="S2.Ex1.m1.1.1.1.1.1.cmml"><mi id="S2.Ex1.m1.1.1.1.1.1.2" xref="S2.Ex1.m1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.Ex1.m1.1.1.1.1.1.1" xref="S2.Ex1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Ex1.m1.1.1.1.1.1.3" xref="S2.Ex1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Ex1.m1.1.1.1.1.3" stretchy="false" xref="S2.Ex1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Ex1.m1.1b"><apply id="S2.Ex1.m1.1.1.cmml" xref="S2.Ex1.m1.1.1"><times id="S2.Ex1.m1.1.1.2.cmml" xref="S2.Ex1.m1.1.1.2"></times><apply id="S2.Ex1.m1.1.1.3.cmml" xref="S2.Ex1.m1.1.1.3"><csymbol cd="ambiguous" id="S2.Ex1.m1.1.1.3.1.cmml" xref="S2.Ex1.m1.1.1.3">subscript</csymbol><ci id="S2.Ex1.m1.1.1.3.2.cmml" xref="S2.Ex1.m1.1.1.3.2">𝑝</ci><ci id="S2.Ex1.m1.1.1.3.3.cmml" xref="S2.Ex1.m1.1.1.3.3">𝜃</ci></apply><apply id="S2.Ex1.m1.1.1.1.1.1.cmml" xref="S2.Ex1.m1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex1.m1.1.1.1.1.1.1.cmml" xref="S2.Ex1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Ex1.m1.1.1.1.1.1.2.cmml" xref="S2.Ex1.m1.1.1.1.1.1.2">𝑦</ci><ci id="S2.Ex1.m1.1.1.1.1.1.3.cmml" xref="S2.Ex1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Ex1.m1.1c">\displaystyle p_{\theta}(y|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Ex1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}_{p(X|X\in[x])}[p(y|X)]\;," class="ltx_Math" display="inline" id="S2.Ex1.m2.3"><semantics id="S2.Ex1.m2.3a"><mrow id="S2.Ex1.m2.3.3.1" xref="S2.Ex1.m2.3.3.1.1.cmml"><mrow id="S2.Ex1.m2.3.3.1.1" xref="S2.Ex1.m2.3.3.1.1.cmml"><mi id="S2.Ex1.m2.3.3.1.1.3" xref="S2.Ex1.m2.3.3.1.1.3.cmml"></mi><mo id="S2.Ex1.m2.3.3.1.1.2" xref="S2.Ex1.m2.3.3.1.1.2.cmml">=</mo><mrow id="S2.Ex1.m2.3.3.1.1.1" xref="S2.Ex1.m2.3.3.1.1.1.cmml"><msub id="S2.Ex1.m2.3.3.1.1.1.3" xref="S2.Ex1.m2.3.3.1.1.1.3.cmml"><mi id="S2.Ex1.m2.3.3.1.1.1.3.2" xref="S2.Ex1.m2.3.3.1.1.1.3.2.cmml">𝔼</mi><mrow id="S2.Ex1.m2.2.2.2" xref="S2.Ex1.m2.2.2.2.cmml"><mi id="S2.Ex1.m2.2.2.2.4" xref="S2.Ex1.m2.2.2.2.4.cmml">p</mi><mo id="S2.Ex1.m2.2.2.2.3" xref="S2.Ex1.m2.2.2.2.3.cmml">⁢</mo><mrow id="S2.Ex1.m2.2.2.2.2.1" xref="S2.Ex1.m2.2.2.2.2.1.1.cmml"><mo id="S2.Ex1.m2.2.2.2.2.1.2" stretchy="false" xref="S2.Ex1.m2.2.2.2.2.1.1.cmml">(</mo><mrow id="S2.Ex1.m2.2.2.2.2.1.1" xref="S2.Ex1.m2.2.2.2.2.1.1.cmml"><mrow id="S2.Ex1.m2.2.2.2.2.1.1.2" xref="S2.Ex1.m2.2.2.2.2.1.1.2.cmml"><mi id="S2.Ex1.m2.2.2.2.2.1.1.2.2" xref="S2.Ex1.m2.2.2.2.2.1.1.2.2.cmml">X</mi><mo fence="false" id="S2.Ex1.m2.2.2.2.2.1.1.2.1" xref="S2.Ex1.m2.2.2.2.2.1.1.2.1.cmml">|</mo><mi id="S2.Ex1.m2.2.2.2.2.1.1.2.3" xref="S2.Ex1.m2.2.2.2.2.1.1.2.3.cmml">X</mi></mrow><mo id="S2.Ex1.m2.2.2.2.2.1.1.1" xref="S2.Ex1.m2.2.2.2.2.1.1.1.cmml">∈</mo><mrow id="S2.Ex1.m2.2.2.2.2.1.1.3.2" xref="S2.Ex1.m2.2.2.2.2.1.1.3.1.cmml"><mo id="S2.Ex1.m2.2.2.2.2.1.1.3.2.1" stretchy="false" xref="S2.Ex1.m2.2.2.2.2.1.1.3.1.1.cmml">[</mo><mi id="S2.Ex1.m2.1.1.1.1" xref="S2.Ex1.m2.1.1.1.1.cmml">x</mi><mo id="S2.Ex1.m2.2.2.2.2.1.1.3.2.2" stretchy="false" xref="S2.Ex1.m2.2.2.2.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.Ex1.m2.2.2.2.2.1.3" stretchy="false" xref="S2.Ex1.m2.2.2.2.2.1.1.cmml">)</mo></mrow></mrow></msub><mo id="S2.Ex1.m2.3.3.1.1.1.2" xref="S2.Ex1.m2.3.3.1.1.1.2.cmml">⁢</mo><mrow id="S2.Ex1.m2.3.3.1.1.1.1.1" xref="S2.Ex1.m2.3.3.1.1.1.1.2.cmml"><mo id="S2.Ex1.m2.3.3.1.1.1.1.1.2" stretchy="false" xref="S2.Ex1.m2.3.3.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.Ex1.m2.3.3.1.1.1.1.1.1" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.cmml"><mi id="S2.Ex1.m2.3.3.1.1.1.1.1.1.3" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.3.cmml">p</mi><mo id="S2.Ex1.m2.3.3.1.1.1.1.1.1.2" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.cmml"><mo id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.cmml"><mi id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.2" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.1" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.3" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.Ex1.m2.3.3.1.1.1.1.1.3" rspace="0.280em" stretchy="false" xref="S2.Ex1.m2.3.3.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S2.Ex1.m2.3.3.1.2" xref="S2.Ex1.m2.3.3.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.Ex1.m2.3b"><apply id="S2.Ex1.m2.3.3.1.1.cmml" xref="S2.Ex1.m2.3.3.1"><eq id="S2.Ex1.m2.3.3.1.1.2.cmml" xref="S2.Ex1.m2.3.3.1.1.2"></eq><csymbol cd="latexml" id="S2.Ex1.m2.3.3.1.1.3.cmml" xref="S2.Ex1.m2.3.3.1.1.3">absent</csymbol><apply id="S2.Ex1.m2.3.3.1.1.1.cmml" xref="S2.Ex1.m2.3.3.1.1.1"><times id="S2.Ex1.m2.3.3.1.1.1.2.cmml" xref="S2.Ex1.m2.3.3.1.1.1.2"></times><apply id="S2.Ex1.m2.3.3.1.1.1.3.cmml" xref="S2.Ex1.m2.3.3.1.1.1.3"><csymbol cd="ambiguous" id="S2.Ex1.m2.3.3.1.1.1.3.1.cmml" xref="S2.Ex1.m2.3.3.1.1.1.3">subscript</csymbol><ci id="S2.Ex1.m2.3.3.1.1.1.3.2.cmml" xref="S2.Ex1.m2.3.3.1.1.1.3.2">𝔼</ci><apply id="S2.Ex1.m2.2.2.2.cmml" xref="S2.Ex1.m2.2.2.2"><times id="S2.Ex1.m2.2.2.2.3.cmml" xref="S2.Ex1.m2.2.2.2.3"></times><ci id="S2.Ex1.m2.2.2.2.4.cmml" xref="S2.Ex1.m2.2.2.2.4">𝑝</ci><apply id="S2.Ex1.m2.2.2.2.2.1.1.cmml" xref="S2.Ex1.m2.2.2.2.2.1"><in id="S2.Ex1.m2.2.2.2.2.1.1.1.cmml" xref="S2.Ex1.m2.2.2.2.2.1.1.1"></in><apply id="S2.Ex1.m2.2.2.2.2.1.1.2.cmml" xref="S2.Ex1.m2.2.2.2.2.1.1.2"><csymbol cd="latexml" id="S2.Ex1.m2.2.2.2.2.1.1.2.1.cmml" xref="S2.Ex1.m2.2.2.2.2.1.1.2.1">conditional</csymbol><ci id="S2.Ex1.m2.2.2.2.2.1.1.2.2.cmml" xref="S2.Ex1.m2.2.2.2.2.1.1.2.2">𝑋</ci><ci id="S2.Ex1.m2.2.2.2.2.1.1.2.3.cmml" xref="S2.Ex1.m2.2.2.2.2.1.1.2.3">𝑋</ci></apply><apply id="S2.Ex1.m2.2.2.2.2.1.1.3.1.cmml" xref="S2.Ex1.m2.2.2.2.2.1.1.3.2"><csymbol cd="latexml" id="S2.Ex1.m2.2.2.2.2.1.1.3.1.1.cmml" xref="S2.Ex1.m2.2.2.2.2.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.Ex1.m2.1.1.1.1.cmml" xref="S2.Ex1.m2.1.1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="S2.Ex1.m2.3.3.1.1.1.1.2.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex1.m2.3.3.1.1.1.1.2.1.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.Ex1.m2.3.3.1.1.1.1.1.1.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1"><times id="S2.Ex1.m2.3.3.1.1.1.1.1.1.2.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.2"></times><ci id="S2.Ex1.m2.3.3.1.1.1.1.1.1.3.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.3">𝑝</ci><apply id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.2">𝑦</ci><ci id="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="S2.Ex1.m2.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Ex1.m2.3c">\displaystyle=\mathbb{E}_{p(X|X\in[x])}[p(y|X)]\;,</annotation><annotation encoding="application/x-llamapun" id="S2.Ex1.m2.3d">= blackboard_E start_POSTSUBSCRIPT italic_p ( italic_X | italic_X ∈ [ italic_x ] ) end_POSTSUBSCRIPT [ italic_p ( italic_y | italic_X ) ] ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> <tbody id="S2.E3"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[p(y|X)|[x]]\;." class="ltx_Math" display="inline" id="S2.E3.m1.2"><semantics id="S2.E3.m1.2a"><mrow id="S2.E3.m1.2.2.1" xref="S2.E3.m1.2.2.1.1.cmml"><mrow id="S2.E3.m1.2.2.1.1" xref="S2.E3.m1.2.2.1.1.cmml"><mi id="S2.E3.m1.2.2.1.1.3" xref="S2.E3.m1.2.2.1.1.3.cmml"></mi><mo id="S2.E3.m1.2.2.1.1.2" xref="S2.E3.m1.2.2.1.1.2.cmml">=</mo><mrow id="S2.E3.m1.2.2.1.1.1" xref="S2.E3.m1.2.2.1.1.1.cmml"><mi id="S2.E3.m1.2.2.1.1.1.3" xref="S2.E3.m1.2.2.1.1.1.3.cmml">𝔼</mi><mo id="S2.E3.m1.2.2.1.1.1.2" xref="S2.E3.m1.2.2.1.1.1.2.cmml">⁢</mo><mrow id="S2.E3.m1.2.2.1.1.1.1.1" xref="S2.E3.m1.2.2.1.1.1.1.2.cmml"><mo id="S2.E3.m1.2.2.1.1.1.1.1.2" stretchy="false" xref="S2.E3.m1.2.2.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E3.m1.2.2.1.1.1.1.1.1" xref="S2.E3.m1.2.2.1.1.1.1.1.1.cmml"><mrow id="S2.E3.m1.2.2.1.1.1.1.1.1.1" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.cmml"><mi id="S2.E3.m1.2.2.1.1.1.1.1.1.1.3" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.3.cmml">p</mi><mo id="S2.E3.m1.2.2.1.1.1.1.1.1.1.2" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml"><mi id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.2" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.3" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="S2.E3.m1.2.2.1.1.1.1.1.1.2" xref="S2.E3.m1.2.2.1.1.1.1.1.1.2.cmml">|</mo><mrow id="S2.E3.m1.2.2.1.1.1.1.1.1.3.2" xref="S2.E3.m1.2.2.1.1.1.1.1.1.3.1.cmml"><mo id="S2.E3.m1.2.2.1.1.1.1.1.1.3.2.1" stretchy="false" xref="S2.E3.m1.2.2.1.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E3.m1.1.1" xref="S2.E3.m1.1.1.cmml">x</mi><mo id="S2.E3.m1.2.2.1.1.1.1.1.1.3.2.2" stretchy="false" xref="S2.E3.m1.2.2.1.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E3.m1.2.2.1.1.1.1.1.3" stretchy="false" xref="S2.E3.m1.2.2.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S2.E3.m1.2.2.1.2" xref="S2.E3.m1.2.2.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E3.m1.2b"><apply id="S2.E3.m1.2.2.1.1.cmml" xref="S2.E3.m1.2.2.1"><eq id="S2.E3.m1.2.2.1.1.2.cmml" xref="S2.E3.m1.2.2.1.1.2"></eq><csymbol cd="latexml" id="S2.E3.m1.2.2.1.1.3.cmml" xref="S2.E3.m1.2.2.1.1.3">absent</csymbol><apply id="S2.E3.m1.2.2.1.1.1.cmml" xref="S2.E3.m1.2.2.1.1.1"><times id="S2.E3.m1.2.2.1.1.1.2.cmml" xref="S2.E3.m1.2.2.1.1.1.2"></times><ci id="S2.E3.m1.2.2.1.1.1.3.cmml" xref="S2.E3.m1.2.2.1.1.1.3">𝔼</ci><apply id="S2.E3.m1.2.2.1.1.1.1.2.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="S2.E3.m1.2.2.1.1.1.1.2.1.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E3.m1.2.2.1.1.1.1.1.1.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E3.m1.2.2.1.1.1.1.1.1.2.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.2">conditional</csymbol><apply id="S2.E3.m1.2.2.1.1.1.1.1.1.1.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1"><times id="S2.E3.m1.2.2.1.1.1.1.1.1.1.2.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.2"></times><ci id="S2.E3.m1.2.2.1.1.1.1.1.1.1.3.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.3">𝑝</ci><apply id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.2">𝑦</ci><ci id="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="S2.E3.m1.2.2.1.1.1.1.1.1.3.1.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.3.2"><csymbol cd="latexml" id="S2.E3.m1.2.2.1.1.1.1.1.1.3.1.1.cmml" xref="S2.E3.m1.2.2.1.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E3.m1.1.1.cmml" xref="S2.E3.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E3.m1.2c">\displaystyle=\mathbb{E}[p(y|X)|[x]]\;.</annotation><annotation encoding="application/x-llamapun" id="S2.E3.m1.2d">= blackboard_E [ italic_p ( italic_y | italic_X ) | [ italic_x ] ] .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(3)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_para" id="S2.SS2.p2"> <p class="ltx_p" id="S2.SS2.p2.1">For all theoretical derivations, models will be assumed to be calibrated. First-order calibration is achievable either by training on a large enough dataset or by post-hoc recalibration <cite class="ltx_cite ltx_citemacro_citep">(Song et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib16" title="">2019</a>)</cite>, as long as a calibration set has been separated from the training and testing datasets.</p> </div> <figure class="ltx_figure" id="S2.F2"><svg class="ltx_picture ltx_centering" height="276.98" id="S2.F2.1.pic1" overflow="visible" version="1.1" width="211.33"><g fill="#000000" stroke="#000000" stroke-width="0.75pt" transform="translate(0,276.98) matrix(1 0 0 -1 0 0) translate(-239.96,0) translate(0,295.97)"><g stroke-dasharray="3.0pt,3.0pt" stroke-dashoffset="0.0pt"><path d="M 352.32 -46.7 L 352.32 -213.78" style="fill:none"></path></g><g color="#4A90E2" fill="#4A90E2" stroke="#4A90E2" stroke-opacity="1" stroke-width="2.5pt"><path d="M 269.3 -47.74 C 340.91 -268.26 362.7 -271.9 435.87 -47.74" style="fill:none"></path></g><g color="#D0021B" fill="#D0021B" stroke="#D0021B" stroke-opacity="1" stroke-width="1.5pt"><path d="M 269.61 -77.42 C 344.33 -294.94 379.62 -228.1 424.24 -47.53" style="fill:none"></path></g><g stroke-width="1.5pt"><path d="M 269.3 -47.74 L 435.87 -47.74 L 435.87 -214.3 L 269.3 -214.3 Z" style="fill:none"></path></g><path d="M 271.55 -227.97 L 432.75 -228.31" style="fill:none"></path><g fill="#000000" stroke-opacity="0" stroke-width="0.08pt"><path d="M 422.37 -231.4 L 434.83 -228.31 L 422.38 -225.17 Z"></path></g><g fill="#000000" stroke-opacity="0" stroke-width="0.08pt"><path d="M 281.94 -224.88 L 269.48 -227.97 L 281.93 -231.11 Z"></path></g><g fill="#FFFFFF" fill-opacity="1" stroke-opacity="0"><path d="M 347.48 -222.08 L 356.82 -222.08 L 356.82 -234.19 L 347.48 -234.19 Z"></path></g><path d="M 269.2 -135.12 L 436.07 -134.7" style="fill:none"></path><path d="M 298.88 -135.12 L 298.88 -150.48" style="fill:none"></path><path d="M 404.73 -118.93 L 404.73 -134.29" style="fill:none"></path><path d="M 299.5 -150.48 L 436.07 -150.48" style="fill:none"></path><path d="M 404.94 -118.93 L 434.83 -118.93" style="fill:none"></path><path d="M 298.88 -135.12 M 301.37 -135.12 C 301.37 -136.49 300.25 -137.61 298.88 -137.61 C 297.5 -137.61 296.39 -136.49 296.39 -135.12 C 296.39 -133.74 297.5 -132.63 298.88 -132.63 C 300.25 -132.63 301.37 -133.74 301.37 -135.12 Z M 298.88 -135.12"></path><path d="M 404.73 -118.93 M 407.22 -118.93 C 407.22 -120.3 406.11 -121.42 404.73 -121.42 C 403.36 -121.42 402.24 -120.3 402.24 -118.93 C 402.24 -117.55 403.36 -116.44 404.73 -116.44 C 406.11 -116.44 407.22 -117.55 407.22 -118.93 Z M 404.73 -118.93"></path><path d="M 298.88 -150.48 M 301.37 -150.48 C 301.37 -151.85 300.25 -152.97 298.88 -152.97 C 297.5 -152.97 296.39 -151.85 296.39 -150.48 C 296.39 -149.1 297.5 -147.99 298.88 -147.99 C 300.25 -147.99 301.37 -149.1 301.37 -150.48 Z M 298.88 -150.48"></path><path d="M 404.73 -134.29 M 407.22 -134.29 C 407.22 -135.66 406.11 -136.78 404.73 -136.78 C 403.36 -136.78 402.24 -135.66 402.24 -134.29 C 402.24 -132.91 403.36 -131.8 404.73 -131.8 C 406.11 -131.8 407.22 -132.91 407.22 -134.29 Z M 404.73 -134.29"></path><path d="M 431.71 -142.8 L 439.39 -135.95" style="fill:none"></path><path d="M 431.92 -145.91 L 439.6 -139.06" style="fill:none"></path><path d="M 431.71 -128.68 L 439.39 -121.83" style="fill:none"></path><path d="M 431.92 -131.8 L 439.6 -124.95" style="fill:none"></path><path d="M 346.27 -223.12" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 347.83 -230.64)"><foreignobject height="5.96" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="7.91"><math alttext="x" class="ltx_Math" display="inline" id="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1a"><mi id="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1b"><ci id="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1c">x</annotation><annotation encoding="application/x-llamapun" id="S2.F2.1.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.m1.1d">italic_x</annotation></semantics></math></foreignobject></g><path d="M 437.94 -222.08" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 439.5 -231.71)"><foreignobject height="9.22" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="10.76"><math alttext="+" class="ltx_Math" display="inline" id="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1a"><mo id="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">+</mo><annotation-xml encoding="MathML-Content" id="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1b"><plus id="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1"></plus></annotation-xml><annotation encoding="application/x-tex" id="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1c">+</annotation><annotation encoding="application/x-llamapun" id="S2.F2.1.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1d">+</annotation></semantics></math></foreignobject></g><path d="M 252.87 -222.08" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 254.43 -229.6)"><foreignobject height="5.96" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="4.61"><math alttext="-" class="ltx_Math" display="inline" id="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1a"><mo id="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">−</mo><annotation-xml encoding="MathML-Content" id="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1b"><minus id="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1"></minus></annotation-xml><annotation encoding="application/x-tex" id="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1c">-</annotation><annotation encoding="application/x-llamapun" id="S2.F2.1.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1d">-</annotation></semantics></math></foreignobject></g><path d="M 240.48 -149.44" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(0.0 1.0 -1.0 0.0 252.42 -147.88)"><foreignobject height="13.84" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="42.91"><math alttext="p(y|x)" class="ltx_Math" display="inline" id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1a"><mrow id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><mi id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml">p</mi><mo id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml"><mo id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.2" stretchy="false" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml"><mi id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.3" stretchy="false" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1"><times id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2"></times><ci id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3">𝑝</ci><apply id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.cmml" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1.cmml" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2.cmml" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.2">𝑦</ci><ci id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3.cmml" xref="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1c">p(y|x)</annotation><annotation encoding="application/x-llamapun" id="S2.F2.1.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1d">italic_p ( italic_y | italic_x )</annotation></semantics></math></foreignobject></g><path d="M 287.46 -59.15" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 289.02 -148.23)"><g class="ltx_tikzmatrix" transform="matrix(1 0 0 -1 0 83.195)"><g class="ltx_tikzmatrix_row" transform="matrix(1 0 0 1 0 87.52)"><g class="ltx_tikzmatrix_col ltx_nopad_l ltx_nopad_r" transform="matrix(1 0 0 -1 0 0)"><foreignobject height="8.65" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="32.86"><span class="ltx_text ltx_font_bold" id="S2.F2.1.pic1.6.6.6.1.1.1.1.1" style="font-size:90%;color:#4A8FE3;">model</span></foreignobject></g></g></g></g><path d="M 386.39 -58.12" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 387.95 -145.81)"><g class="ltx_tikzmatrix" transform="matrix(1 0 0 -1 0 81.815)"><g class="ltx_tikzmatrix_row" transform="matrix(1 0 0 1 0 86.14)"><g class="ltx_tikzmatrix_col ltx_nopad_l ltx_nopad_r" transform="matrix(1 0 0 -1 0 0)"><foreignobject height="8.65" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="20.1"><span class="ltx_text" id="S2.F2.1.pic1.7.7.7.1.1.1.1.1" style="font-size:90%;color:#D1031C;">real</span></foreignobject></g></g></g></g><path d="M 311.96 -19.51" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 313.51 -31.44)"><foreignobject height="13.84" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="65.78"><math alttext="[x]=\{\pm x\}" class="ltx_Math" display="inline" id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2"><semantics id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2a"><mrow id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.cmml"><mrow id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.1.cmml"><mo id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2.1" stretchy="false" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.1.1.cmml">[</mo><mi id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">x</mi><mo id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2.2" stretchy="false" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.1.1.cmml">]</mo></mrow><mo id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2.cmml">=</mo><mrow id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.2.cmml"><mo id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.2" stretchy="false" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.2.cmml">{</mo><mrow id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml"><mo id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1a" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml">±</mo><mi id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2.cmml">x</mi></mrow><mo id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.3" stretchy="false" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.2.cmml">}</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2b"><apply id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2"><eq id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.2"></eq><apply id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.1.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2"><csymbol cd="latexml" id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.1.1.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.3.2.1">delimited-[]</csymbol><ci id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1">𝑥</ci></apply><set id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.2.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1"><apply id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.1.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1">plus-or-minus</csymbol><ci id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2.cmml" xref="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2.2.1.1.1.2">𝑥</ci></apply></set></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2c">[x]=\{\pm x\}</annotation><annotation encoding="application/x-llamapun" id="S2.F2.1.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.2d">[ italic_x ] = { ± italic_x }</annotation></semantics></math></foreignobject></g></g></svg> <figcaption class="ltx_caption"><span class="ltx_tag ltx_tag_figure">Figure 2: </span><span class="ltx_text ltx_font_bold" id="S2.F2.3.1" style="font-size:90%;">A calibrated model can make mistakes.<span class="ltx_text ltx_font_medium" id="S2.F2.3.1.1"> In this example, the model is symmetric around the ordinate and cannot distinguish positive from negative inputs. Even if the target distribution is asymmetric, the model can be calibrated because errors on the opposite sides of the <math alttext="y" class="ltx_Math" display="inline" id="S2.F2.3.1.1.m1.1"><semantics id="S2.F2.3.1.1.m1.1b"><mi id="S2.F2.3.1.1.m1.1.1" xref="S2.F2.3.1.1.m1.1.1.cmml">y</mi><annotation-xml encoding="MathML-Content" id="S2.F2.3.1.1.m1.1c"><ci id="S2.F2.3.1.1.m1.1.1.cmml" xref="S2.F2.3.1.1.m1.1.1">𝑦</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.F2.3.1.1.m1.1d">y</annotation><annotation encoding="application/x-llamapun" id="S2.F2.3.1.1.m1.1e">italic_y</annotation></semantics></math>-axis cancel out. Since these errors are due to the model and can in principle be reduced by gathering more data, they are of an epistemic nature. </span></span></figcaption> </figure> <div class="ltx_para" id="S2.SS2.p3"> <p class="ltx_p" id="S2.SS2.p3.1">Note that a calibrated model can still make mistakes within equivalence classes, which aggregate the points that the model <em class="ltx_emph ltx_font_italic" id="S2.SS2.p3.1.1">cannot distinguish</em>. Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.F2" title="Figure 2 ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2</span></a> provides an example of this behavior. This observation is formalized with the following theorem:</p> </div> <div class="ltx_theorem ltx_theorem_theorem" id="S2.Thmtheorem2"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem2.1.1.1">Theorem 2.2</span></span><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem2.2.2">.</span> </h6> <div class="ltx_para" id="S2.Thmtheorem2.p1"> <p class="ltx_p" id="S2.Thmtheorem2.p1.1"><span class="ltx_text ltx_font_italic" id="S2.Thmtheorem2.p1.1.1">Let <math alttext="p_{\theta}(y|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem2.p1.1.1.m1.1"><semantics id="S2.Thmtheorem2.p1.1.1.m1.1a"><mrow id="S2.Thmtheorem2.p1.1.1.m1.1.1" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.cmml"><msub id="S2.Thmtheorem2.p1.1.1.m1.1.1.3" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.3.cmml"><mi id="S2.Thmtheorem2.p1.1.1.m1.1.1.3.2" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.3.2.cmml">p</mi><mi id="S2.Thmtheorem2.p1.1.1.m1.1.1.3.3" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem2.p1.1.1.m1.1.1.2" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml"><mo id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.2" stretchy="false" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.3" stretchy="false" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem2.p1.1.1.m1.1b"><apply id="S2.Thmtheorem2.p1.1.1.m1.1.1.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1"><times id="S2.Thmtheorem2.p1.1.1.m1.1.1.2.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.2"></times><apply id="S2.Thmtheorem2.p1.1.1.m1.1.1.3.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="S2.Thmtheorem2.p1.1.1.m1.1.1.3.1.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.3">subscript</csymbol><ci id="S2.Thmtheorem2.p1.1.1.m1.1.1.3.2.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.3.2">𝑝</ci><ci id="S2.Thmtheorem2.p1.1.1.m1.1.1.3.3.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2">𝑦</ci><ci id="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3.cmml" xref="S2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem2.p1.1.1.m1.1c">p_{\theta}(y|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem2.p1.1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x )</annotation></semantics></math> be a first-order calibrated model. Then:</span></p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx2"> <tbody id="S2.E4"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mu_{\theta}(x)" class="ltx_Math" display="inline" id="S2.E4.m1.1"><semantics id="S2.E4.m1.1a"><mrow id="S2.E4.m1.1.2" xref="S2.E4.m1.1.2.cmml"><msub id="S2.E4.m1.1.2.2" xref="S2.E4.m1.1.2.2.cmml"><mi id="S2.E4.m1.1.2.2.2" xref="S2.E4.m1.1.2.2.2.cmml">μ</mi><mi id="S2.E4.m1.1.2.2.3" xref="S2.E4.m1.1.2.2.3.cmml">θ</mi></msub><mo id="S2.E4.m1.1.2.1" xref="S2.E4.m1.1.2.1.cmml">⁢</mo><mrow id="S2.E4.m1.1.2.3.2" xref="S2.E4.m1.1.2.cmml"><mo id="S2.E4.m1.1.2.3.2.1" stretchy="false" xref="S2.E4.m1.1.2.cmml">(</mo><mi id="S2.E4.m1.1.1" xref="S2.E4.m1.1.1.cmml">x</mi><mo id="S2.E4.m1.1.2.3.2.2" stretchy="false" xref="S2.E4.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.E4.m1.1b"><apply id="S2.E4.m1.1.2.cmml" xref="S2.E4.m1.1.2"><times id="S2.E4.m1.1.2.1.cmml" xref="S2.E4.m1.1.2.1"></times><apply id="S2.E4.m1.1.2.2.cmml" xref="S2.E4.m1.1.2.2"><csymbol cd="ambiguous" id="S2.E4.m1.1.2.2.1.cmml" xref="S2.E4.m1.1.2.2">subscript</csymbol><ci id="S2.E4.m1.1.2.2.2.cmml" xref="S2.E4.m1.1.2.2.2">𝜇</ci><ci id="S2.E4.m1.1.2.2.3.cmml" xref="S2.E4.m1.1.2.2.3">𝜃</ci></apply><ci id="S2.E4.m1.1.1.cmml" xref="S2.E4.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E4.m1.1c">\displaystyle\mu_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="S2.E4.m1.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\triangleq\mathbb{E}_{\theta}[Y|x]=\mathbb{E}[\mathbb{E}[Y|X]|[x]]" class="ltx_Math" display="inline" id="S2.E4.m2.3"><semantics id="S2.E4.m2.3a"><mrow id="S2.E4.m2.3.3" xref="S2.E4.m2.3.3.cmml"><mi id="S2.E4.m2.3.3.4" xref="S2.E4.m2.3.3.4.cmml"></mi><mo id="S2.E4.m2.3.3.5" xref="S2.E4.m2.3.3.5.cmml">≜</mo><mrow id="S2.E4.m2.2.2.1" xref="S2.E4.m2.2.2.1.cmml"><msub id="S2.E4.m2.2.2.1.3" xref="S2.E4.m2.2.2.1.3.cmml"><mi id="S2.E4.m2.2.2.1.3.2" xref="S2.E4.m2.2.2.1.3.2.cmml">𝔼</mi><mi id="S2.E4.m2.2.2.1.3.3" xref="S2.E4.m2.2.2.1.3.3.cmml">θ</mi></msub><mo id="S2.E4.m2.2.2.1.2" xref="S2.E4.m2.2.2.1.2.cmml">⁢</mo><mrow id="S2.E4.m2.2.2.1.1.1" xref="S2.E4.m2.2.2.1.1.2.cmml"><mo id="S2.E4.m2.2.2.1.1.1.2" stretchy="false" xref="S2.E4.m2.2.2.1.1.2.1.cmml">[</mo><mrow id="S2.E4.m2.2.2.1.1.1.1" xref="S2.E4.m2.2.2.1.1.1.1.cmml"><mi id="S2.E4.m2.2.2.1.1.1.1.2" xref="S2.E4.m2.2.2.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.E4.m2.2.2.1.1.1.1.1" xref="S2.E4.m2.2.2.1.1.1.1.1.cmml">|</mo><mi id="S2.E4.m2.2.2.1.1.1.1.3" xref="S2.E4.m2.2.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.E4.m2.2.2.1.1.1.3" stretchy="false" xref="S2.E4.m2.2.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S2.E4.m2.3.3.6" xref="S2.E4.m2.3.3.6.cmml">=</mo><mrow id="S2.E4.m2.3.3.2" xref="S2.E4.m2.3.3.2.cmml"><mi id="S2.E4.m2.3.3.2.3" xref="S2.E4.m2.3.3.2.3.cmml">𝔼</mi><mo id="S2.E4.m2.3.3.2.2" xref="S2.E4.m2.3.3.2.2.cmml">⁢</mo><mrow id="S2.E4.m2.3.3.2.1.1" xref="S2.E4.m2.3.3.2.1.2.cmml"><mo id="S2.E4.m2.3.3.2.1.1.2" stretchy="false" xref="S2.E4.m2.3.3.2.1.2.1.cmml">[</mo><mrow id="S2.E4.m2.3.3.2.1.1.1" xref="S2.E4.m2.3.3.2.1.1.1.cmml"><mrow id="S2.E4.m2.3.3.2.1.1.1.1" xref="S2.E4.m2.3.3.2.1.1.1.1.cmml"><mi id="S2.E4.m2.3.3.2.1.1.1.1.3" xref="S2.E4.m2.3.3.2.1.1.1.1.3.cmml">𝔼</mi><mo id="S2.E4.m2.3.3.2.1.1.1.1.2" xref="S2.E4.m2.3.3.2.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E4.m2.3.3.2.1.1.1.1.1.1" xref="S2.E4.m2.3.3.2.1.1.1.1.1.2.cmml"><mo id="S2.E4.m2.3.3.2.1.1.1.1.1.1.2" stretchy="false" xref="S2.E4.m2.3.3.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.cmml"><mi id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.2" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.1" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.3" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E4.m2.3.3.2.1.1.1.1.1.1.3" stretchy="false" xref="S2.E4.m2.3.3.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.E4.m2.3.3.2.1.1.1.2" xref="S2.E4.m2.3.3.2.1.1.1.2.cmml">|</mo><mrow id="S2.E4.m2.3.3.2.1.1.1.3.2" xref="S2.E4.m2.3.3.2.1.1.1.3.1.cmml"><mo id="S2.E4.m2.3.3.2.1.1.1.3.2.1" stretchy="false" xref="S2.E4.m2.3.3.2.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E4.m2.1.1" xref="S2.E4.m2.1.1.cmml">x</mi><mo id="S2.E4.m2.3.3.2.1.1.1.3.2.2" stretchy="false" xref="S2.E4.m2.3.3.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E4.m2.3.3.2.1.1.3" stretchy="false" xref="S2.E4.m2.3.3.2.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.E4.m2.3b"><apply id="S2.E4.m2.3.3.cmml" xref="S2.E4.m2.3.3"><and id="S2.E4.m2.3.3a.cmml" xref="S2.E4.m2.3.3"></and><apply id="S2.E4.m2.3.3b.cmml" xref="S2.E4.m2.3.3"><ci id="S2.E4.m2.3.3.5.cmml" xref="S2.E4.m2.3.3.5">≜</ci><csymbol cd="latexml" id="S2.E4.m2.3.3.4.cmml" xref="S2.E4.m2.3.3.4">absent</csymbol><apply id="S2.E4.m2.2.2.1.cmml" xref="S2.E4.m2.2.2.1"><times id="S2.E4.m2.2.2.1.2.cmml" xref="S2.E4.m2.2.2.1.2"></times><apply id="S2.E4.m2.2.2.1.3.cmml" xref="S2.E4.m2.2.2.1.3"><csymbol cd="ambiguous" id="S2.E4.m2.2.2.1.3.1.cmml" xref="S2.E4.m2.2.2.1.3">subscript</csymbol><ci id="S2.E4.m2.2.2.1.3.2.cmml" xref="S2.E4.m2.2.2.1.3.2">𝔼</ci><ci id="S2.E4.m2.2.2.1.3.3.cmml" xref="S2.E4.m2.2.2.1.3.3">𝜃</ci></apply><apply id="S2.E4.m2.2.2.1.1.2.cmml" xref="S2.E4.m2.2.2.1.1.1"><csymbol cd="latexml" id="S2.E4.m2.2.2.1.1.2.1.cmml" xref="S2.E4.m2.2.2.1.1.1.2">delimited-[]</csymbol><apply id="S2.E4.m2.2.2.1.1.1.1.cmml" xref="S2.E4.m2.2.2.1.1.1.1"><csymbol cd="latexml" id="S2.E4.m2.2.2.1.1.1.1.1.cmml" xref="S2.E4.m2.2.2.1.1.1.1.1">conditional</csymbol><ci id="S2.E4.m2.2.2.1.1.1.1.2.cmml" xref="S2.E4.m2.2.2.1.1.1.1.2">𝑌</ci><ci id="S2.E4.m2.2.2.1.1.1.1.3.cmml" xref="S2.E4.m2.2.2.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply><apply id="S2.E4.m2.3.3c.cmml" xref="S2.E4.m2.3.3"><eq id="S2.E4.m2.3.3.6.cmml" xref="S2.E4.m2.3.3.6"></eq><share href="https://arxiv.org/html/2503.13317v1#S2.E4.m2.2.2.1.cmml" id="S2.E4.m2.3.3d.cmml" xref="S2.E4.m2.3.3"></share><apply id="S2.E4.m2.3.3.2.cmml" xref="S2.E4.m2.3.3.2"><times id="S2.E4.m2.3.3.2.2.cmml" xref="S2.E4.m2.3.3.2.2"></times><ci id="S2.E4.m2.3.3.2.3.cmml" xref="S2.E4.m2.3.3.2.3">𝔼</ci><apply id="S2.E4.m2.3.3.2.1.2.cmml" xref="S2.E4.m2.3.3.2.1.1"><csymbol cd="latexml" id="S2.E4.m2.3.3.2.1.2.1.cmml" xref="S2.E4.m2.3.3.2.1.1.2">delimited-[]</csymbol><apply id="S2.E4.m2.3.3.2.1.1.1.cmml" xref="S2.E4.m2.3.3.2.1.1.1"><csymbol cd="latexml" id="S2.E4.m2.3.3.2.1.1.1.2.cmml" xref="S2.E4.m2.3.3.2.1.1.1.2">conditional</csymbol><apply id="S2.E4.m2.3.3.2.1.1.1.1.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1"><times id="S2.E4.m2.3.3.2.1.1.1.1.2.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.2"></times><ci id="S2.E4.m2.3.3.2.1.1.1.1.3.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.3">𝔼</ci><apply id="S2.E4.m2.3.3.2.1.1.1.1.1.2.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E4.m2.3.3.2.1.1.1.1.1.2.1.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.1.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.2.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.3.cmml" xref="S2.E4.m2.3.3.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="S2.E4.m2.3.3.2.1.1.1.3.1.cmml" xref="S2.E4.m2.3.3.2.1.1.1.3.2"><csymbol cd="latexml" id="S2.E4.m2.3.3.2.1.1.1.3.1.1.cmml" xref="S2.E4.m2.3.3.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E4.m2.1.1.cmml" xref="S2.E4.m2.1.1">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E4.m2.3c">\displaystyle\triangleq\mathbb{E}_{\theta}[Y|x]=\mathbb{E}[\mathbb{E}[Y|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="S2.E4.m2.3d">≜ blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ] = blackboard_E [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(4)</span></td> </tr></tbody> <tbody id="S2.Ex2"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\sigma_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="S2.Ex2.m1.1"><semantics id="S2.Ex2.m1.1a"><mrow id="S2.Ex2.m1.1.2" xref="S2.Ex2.m1.1.2.cmml"><msubsup id="S2.Ex2.m1.1.2.2" xref="S2.Ex2.m1.1.2.2.cmml"><mi id="S2.Ex2.m1.1.2.2.2.2" xref="S2.Ex2.m1.1.2.2.2.2.cmml">σ</mi><mi id="S2.Ex2.m1.1.2.2.2.3" xref="S2.Ex2.m1.1.2.2.2.3.cmml">θ</mi><mn id="S2.Ex2.m1.1.2.2.3" xref="S2.Ex2.m1.1.2.2.3.cmml">2</mn></msubsup><mo id="S2.Ex2.m1.1.2.1" xref="S2.Ex2.m1.1.2.1.cmml">⁢</mo><mrow id="S2.Ex2.m1.1.2.3.2" xref="S2.Ex2.m1.1.2.cmml"><mo id="S2.Ex2.m1.1.2.3.2.1" stretchy="false" xref="S2.Ex2.m1.1.2.cmml">(</mo><mi id="S2.Ex2.m1.1.1" xref="S2.Ex2.m1.1.1.cmml">x</mi><mo id="S2.Ex2.m1.1.2.3.2.2" stretchy="false" xref="S2.Ex2.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Ex2.m1.1b"><apply id="S2.Ex2.m1.1.2.cmml" xref="S2.Ex2.m1.1.2"><times id="S2.Ex2.m1.1.2.1.cmml" xref="S2.Ex2.m1.1.2.1"></times><apply id="S2.Ex2.m1.1.2.2.cmml" xref="S2.Ex2.m1.1.2.2"><csymbol cd="ambiguous" id="S2.Ex2.m1.1.2.2.1.cmml" xref="S2.Ex2.m1.1.2.2">superscript</csymbol><apply id="S2.Ex2.m1.1.2.2.2.cmml" xref="S2.Ex2.m1.1.2.2"><csymbol cd="ambiguous" id="S2.Ex2.m1.1.2.2.2.1.cmml" xref="S2.Ex2.m1.1.2.2">subscript</csymbol><ci id="S2.Ex2.m1.1.2.2.2.2.cmml" xref="S2.Ex2.m1.1.2.2.2.2">𝜎</ci><ci id="S2.Ex2.m1.1.2.2.2.3.cmml" xref="S2.Ex2.m1.1.2.2.2.3">𝜃</ci></apply><cn id="S2.Ex2.m1.1.2.2.3.cmml" type="integer" xref="S2.Ex2.m1.1.2.2.3">2</cn></apply><ci id="S2.Ex2.m1.1.1.cmml" xref="S2.Ex2.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Ex2.m1.1c">\displaystyle\sigma_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="S2.Ex2.m1.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\triangleq\mathbb{V}_{\theta}[Y|x]=\mathbb{E}[\mathbb{V}[Y|X]|[x]% ]+\mathbb{V}[\mathbb{E}[Y|X]|[x]]\;." class="ltx_Math" display="inline" id="S2.Ex2.m2.3"><semantics id="S2.Ex2.m2.3a"><mrow id="S2.Ex2.m2.3.3.1" xref="S2.Ex2.m2.3.3.1.1.cmml"><mrow id="S2.Ex2.m2.3.3.1.1" xref="S2.Ex2.m2.3.3.1.1.cmml"><mi id="S2.Ex2.m2.3.3.1.1.5" xref="S2.Ex2.m2.3.3.1.1.5.cmml"></mi><mo id="S2.Ex2.m2.3.3.1.1.6" xref="S2.Ex2.m2.3.3.1.1.6.cmml">≜</mo><mrow id="S2.Ex2.m2.3.3.1.1.1" xref="S2.Ex2.m2.3.3.1.1.1.cmml"><msub id="S2.Ex2.m2.3.3.1.1.1.3" xref="S2.Ex2.m2.3.3.1.1.1.3.cmml"><mi id="S2.Ex2.m2.3.3.1.1.1.3.2" xref="S2.Ex2.m2.3.3.1.1.1.3.2.cmml">𝕍</mi><mi id="S2.Ex2.m2.3.3.1.1.1.3.3" xref="S2.Ex2.m2.3.3.1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.Ex2.m2.3.3.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.1.2.cmml">⁢</mo><mrow id="S2.Ex2.m2.3.3.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.1.1.2.cmml"><mo id="S2.Ex2.m2.3.3.1.1.1.1.1.2" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.Ex2.m2.3.3.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1.cmml"><mi id="S2.Ex2.m2.3.3.1.1.1.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.Ex2.m2.3.3.1.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Ex2.m2.3.3.1.1.1.1.1.1.3" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Ex2.m2.3.3.1.1.1.1.1.3" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S2.Ex2.m2.3.3.1.1.7" xref="S2.Ex2.m2.3.3.1.1.7.cmml">=</mo><mrow id="S2.Ex2.m2.3.3.1.1.3" xref="S2.Ex2.m2.3.3.1.1.3.cmml"><mrow id="S2.Ex2.m2.3.3.1.1.2.1" xref="S2.Ex2.m2.3.3.1.1.2.1.cmml"><mi id="S2.Ex2.m2.3.3.1.1.2.1.3" xref="S2.Ex2.m2.3.3.1.1.2.1.3.cmml">𝔼</mi><mo id="S2.Ex2.m2.3.3.1.1.2.1.2" xref="S2.Ex2.m2.3.3.1.1.2.1.2.cmml">⁢</mo><mrow id="S2.Ex2.m2.3.3.1.1.2.1.1.1" xref="S2.Ex2.m2.3.3.1.1.2.1.1.2.cmml"><mo id="S2.Ex2.m2.3.3.1.1.2.1.1.1.2" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.2.1.1.2.1.cmml">[</mo><mrow id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.cmml"><mrow id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.cmml"><mi id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.3" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.3.cmml">𝕍</mi><mo id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.2.cmml"><mo id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.2" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.cmml"><mi id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.3" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.3" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.2.cmml">|</mo><mrow id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.2" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.1.cmml"><mo id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.2.1" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.1.1.cmml">[</mo><mi id="S2.Ex2.m2.1.1" xref="S2.Ex2.m2.1.1.cmml">x</mi><mo id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.2.2" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.Ex2.m2.3.3.1.1.2.1.1.1.3" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S2.Ex2.m2.3.3.1.1.3.3" xref="S2.Ex2.m2.3.3.1.1.3.3.cmml">+</mo><mrow id="S2.Ex2.m2.3.3.1.1.3.2" xref="S2.Ex2.m2.3.3.1.1.3.2.cmml"><mi id="S2.Ex2.m2.3.3.1.1.3.2.3" xref="S2.Ex2.m2.3.3.1.1.3.2.3.cmml">𝕍</mi><mo id="S2.Ex2.m2.3.3.1.1.3.2.2" xref="S2.Ex2.m2.3.3.1.1.3.2.2.cmml">⁢</mo><mrow id="S2.Ex2.m2.3.3.1.1.3.2.1.1" xref="S2.Ex2.m2.3.3.1.1.3.2.1.2.cmml"><mo id="S2.Ex2.m2.3.3.1.1.3.2.1.1.2" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.3.2.1.2.1.cmml">[</mo><mrow id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.cmml"><mrow id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.cmml"><mi id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.3" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.3.cmml">𝔼</mi><mo id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.2.cmml"><mo id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.2" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.cmml"><mi id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.1" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.3" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.3" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.2" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.2.cmml">|</mo><mrow id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.2" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.1.cmml"><mo id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.2.1" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.1.1.cmml">[</mo><mi id="S2.Ex2.m2.2.2" xref="S2.Ex2.m2.2.2.cmml">x</mi><mo id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.2.2" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.Ex2.m2.3.3.1.1.3.2.1.1.3" stretchy="false" xref="S2.Ex2.m2.3.3.1.1.3.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><mo id="S2.Ex2.m2.3.3.1.2" xref="S2.Ex2.m2.3.3.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.Ex2.m2.3b"><apply id="S2.Ex2.m2.3.3.1.1.cmml" xref="S2.Ex2.m2.3.3.1"><and id="S2.Ex2.m2.3.3.1.1a.cmml" xref="S2.Ex2.m2.3.3.1"></and><apply id="S2.Ex2.m2.3.3.1.1b.cmml" xref="S2.Ex2.m2.3.3.1"><ci id="S2.Ex2.m2.3.3.1.1.6.cmml" xref="S2.Ex2.m2.3.3.1.1.6">≜</ci><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.5.cmml" xref="S2.Ex2.m2.3.3.1.1.5">absent</csymbol><apply id="S2.Ex2.m2.3.3.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.1"><times id="S2.Ex2.m2.3.3.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.1.2"></times><apply id="S2.Ex2.m2.3.3.1.1.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.1.3"><csymbol cd="ambiguous" id="S2.Ex2.m2.3.3.1.1.1.3.1.cmml" xref="S2.Ex2.m2.3.3.1.1.1.3">subscript</csymbol><ci id="S2.Ex2.m2.3.3.1.1.1.3.2.cmml" xref="S2.Ex2.m2.3.3.1.1.1.3.2">𝕍</ci><ci id="S2.Ex2.m2.3.3.1.1.1.3.3.cmml" xref="S2.Ex2.m2.3.3.1.1.1.3.3">𝜃</ci></apply><apply id="S2.Ex2.m2.3.3.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.1.1.2.1.cmml" xref="S2.Ex2.m2.3.3.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.Ex2.m2.3.3.1.1.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.1.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Ex2.m2.3.3.1.1.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1.2">𝑌</ci><ci id="S2.Ex2.m2.3.3.1.1.1.1.1.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply><apply id="S2.Ex2.m2.3.3.1.1c.cmml" xref="S2.Ex2.m2.3.3.1"><eq id="S2.Ex2.m2.3.3.1.1.7.cmml" xref="S2.Ex2.m2.3.3.1.1.7"></eq><share href="https://arxiv.org/html/2503.13317v1#S2.Ex2.m2.3.3.1.1.1.cmml" id="S2.Ex2.m2.3.3.1.1d.cmml" xref="S2.Ex2.m2.3.3.1"></share><apply id="S2.Ex2.m2.3.3.1.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.3"><plus id="S2.Ex2.m2.3.3.1.1.3.3.cmml" xref="S2.Ex2.m2.3.3.1.1.3.3"></plus><apply id="S2.Ex2.m2.3.3.1.1.2.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1"><times id="S2.Ex2.m2.3.3.1.1.2.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.2"></times><ci id="S2.Ex2.m2.3.3.1.1.2.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.3">𝔼</ci><apply id="S2.Ex2.m2.3.3.1.1.2.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.2.1.1.2.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.2">delimited-[]</csymbol><apply id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.2">conditional</csymbol><apply id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1"><times id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.2"></times><ci id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.3">𝕍</ci><apply id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.2.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.2"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.2.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.Ex2.m2.1.1.cmml" xref="S2.Ex2.m2.1.1">𝑥</ci></apply></apply></apply></apply><apply id="S2.Ex2.m2.3.3.1.1.3.2.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2"><times id="S2.Ex2.m2.3.3.1.1.3.2.2.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.2"></times><ci id="S2.Ex2.m2.3.3.1.1.3.2.3.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.3">𝕍</ci><apply id="S2.Ex2.m2.3.3.1.1.3.2.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.3.2.1.2.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.2">delimited-[]</csymbol><apply id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.2">conditional</csymbol><apply id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1"><times id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.2"></times><ci id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.3">𝔼</ci><apply id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.2.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.2.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.3.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.2"><csymbol cd="latexml" id="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.1.1.cmml" xref="S2.Ex2.m2.3.3.1.1.3.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.Ex2.m2.2.2.cmml" xref="S2.Ex2.m2.2.2">𝑥</ci></apply></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Ex2.m2.3c">\displaystyle\triangleq\mathbb{V}_{\theta}[Y|x]=\mathbb{E}[\mathbb{V}[Y|X]|[x]% ]+\mathbb{V}[\mathbb{E}[Y|X]|[x]]\;.</annotation><annotation encoding="application/x-llamapun" id="S2.Ex2.m2.3d">≜ blackboard_V start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ] = blackboard_E [ blackboard_V [ italic_Y | italic_X ] | [ italic_x ] ] + blackboard_V [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] ] .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> </table> </div> </div> <div class="ltx_para" id="S2.SS2.p4"> <p class="ltx_p" id="S2.SS2.p4.1">Thus, while the mean of a calibrated model is equal to the mean over the equivalence class <math alttext="[x]" class="ltx_Math" display="inline" id="S2.SS2.p4.1.m1.1"><semantics id="S2.SS2.p4.1.m1.1a"><mrow id="S2.SS2.p4.1.m1.1.2.2" xref="S2.SS2.p4.1.m1.1.2.1.cmml"><mo id="S2.SS2.p4.1.m1.1.2.2.1" stretchy="false" xref="S2.SS2.p4.1.m1.1.2.1.1.cmml">[</mo><mi id="S2.SS2.p4.1.m1.1.1" xref="S2.SS2.p4.1.m1.1.1.cmml">x</mi><mo id="S2.SS2.p4.1.m1.1.2.2.2" stretchy="false" xref="S2.SS2.p4.1.m1.1.2.1.1.cmml">]</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.SS2.p4.1.m1.1b"><apply id="S2.SS2.p4.1.m1.1.2.1.cmml" xref="S2.SS2.p4.1.m1.1.2.2"><csymbol cd="latexml" id="S2.SS2.p4.1.m1.1.2.1.1.cmml" xref="S2.SS2.p4.1.m1.1.2.2.1">delimited-[]</csymbol><ci id="S2.SS2.p4.1.m1.1.1.cmml" xref="S2.SS2.p4.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p4.1.m1.1c">[x]</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p4.1.m1.1d">[ italic_x ]</annotation></semantics></math> of the true means, the variance is the sum of the mean of the true variances and the variance of the true means. The first term is the aleatoric part that pertains to the ground truth distribution, while the second is of an epistemic nature because it stems from lumping together points that should have remained separated.</p> </div> <div class="ltx_para" id="S2.SS2.p5"> <p class="ltx_p" id="S2.SS2.p5.7">This refines earlier statements found in the literature that “if a calibrated model predicts a distribution with some mean <math alttext="\mu" class="ltx_Math" display="inline" id="S2.SS2.p5.1.m1.1"><semantics id="S2.SS2.p5.1.m1.1a"><mi id="S2.SS2.p5.1.m1.1.1" xref="S2.SS2.p5.1.m1.1.1.cmml">μ</mi><annotation-xml encoding="MathML-Content" id="S2.SS2.p5.1.m1.1b"><ci id="S2.SS2.p5.1.m1.1.1.cmml" xref="S2.SS2.p5.1.m1.1.1">𝜇</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p5.1.m1.1c">\mu</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p5.1.m1.1d">italic_μ</annotation></semantics></math> and variance <math alttext="\sigma^{2}" class="ltx_Math" display="inline" id="S2.SS2.p5.2.m2.1"><semantics id="S2.SS2.p5.2.m2.1a"><msup id="S2.SS2.p5.2.m2.1.1" xref="S2.SS2.p5.2.m2.1.1.cmml"><mi id="S2.SS2.p5.2.m2.1.1.2" xref="S2.SS2.p5.2.m2.1.1.2.cmml">σ</mi><mn id="S2.SS2.p5.2.m2.1.1.3" xref="S2.SS2.p5.2.m2.1.1.3.cmml">2</mn></msup><annotation-xml encoding="MathML-Content" id="S2.SS2.p5.2.m2.1b"><apply id="S2.SS2.p5.2.m2.1.1.cmml" xref="S2.SS2.p5.2.m2.1.1"><csymbol cd="ambiguous" id="S2.SS2.p5.2.m2.1.1.1.cmml" xref="S2.SS2.p5.2.m2.1.1">superscript</csymbol><ci id="S2.SS2.p5.2.m2.1.1.2.cmml" xref="S2.SS2.p5.2.m2.1.1.2">𝜎</ci><cn id="S2.SS2.p5.2.m2.1.1.3.cmml" type="integer" xref="S2.SS2.p5.2.m2.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p5.2.m2.1c">\sigma^{2}</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p5.2.m2.1d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math>, then it means that on average over all cases with the same prediction the mean of the target is <math alttext="\mu" class="ltx_Math" display="inline" id="S2.SS2.p5.3.m3.1"><semantics id="S2.SS2.p5.3.m3.1a"><mi id="S2.SS2.p5.3.m3.1.1" xref="S2.SS2.p5.3.m3.1.1.cmml">μ</mi><annotation-xml encoding="MathML-Content" id="S2.SS2.p5.3.m3.1b"><ci id="S2.SS2.p5.3.m3.1.1.cmml" xref="S2.SS2.p5.3.m3.1.1">𝜇</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p5.3.m3.1c">\mu</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p5.3.m3.1d">italic_μ</annotation></semantics></math> and variance is <math alttext="\sigma^{2}" class="ltx_Math" display="inline" id="S2.SS2.p5.4.m4.1"><semantics id="S2.SS2.p5.4.m4.1a"><msup id="S2.SS2.p5.4.m4.1.1" xref="S2.SS2.p5.4.m4.1.1.cmml"><mi id="S2.SS2.p5.4.m4.1.1.2" xref="S2.SS2.p5.4.m4.1.1.2.cmml">σ</mi><mn id="S2.SS2.p5.4.m4.1.1.3" xref="S2.SS2.p5.4.m4.1.1.3.cmml">2</mn></msup><annotation-xml encoding="MathML-Content" id="S2.SS2.p5.4.m4.1b"><apply id="S2.SS2.p5.4.m4.1.1.cmml" xref="S2.SS2.p5.4.m4.1.1"><csymbol cd="ambiguous" id="S2.SS2.p5.4.m4.1.1.1.cmml" xref="S2.SS2.p5.4.m4.1.1">superscript</csymbol><ci id="S2.SS2.p5.4.m4.1.1.2.cmml" xref="S2.SS2.p5.4.m4.1.1.2">𝜎</ci><cn id="S2.SS2.p5.4.m4.1.1.3.cmml" type="integer" xref="S2.SS2.p5.4.m4.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p5.4.m4.1c">\sigma^{2}</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p5.4.m4.1d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math>” <cite class="ltx_cite ltx_citemacro_citep">(Song et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib16" title="">2019</a>)</cite>, which essentially ignores the term <math alttext="\mathbb{V}[\mathbb{E}[Y|X]|[x]]" class="ltx_Math" display="inline" id="S2.SS2.p5.5.m5.2"><semantics id="S2.SS2.p5.5.m5.2a"><mrow id="S2.SS2.p5.5.m5.2.2" xref="S2.SS2.p5.5.m5.2.2.cmml"><mi id="S2.SS2.p5.5.m5.2.2.3" xref="S2.SS2.p5.5.m5.2.2.3.cmml">𝕍</mi><mo id="S2.SS2.p5.5.m5.2.2.2" xref="S2.SS2.p5.5.m5.2.2.2.cmml">⁢</mo><mrow id="S2.SS2.p5.5.m5.2.2.1.1" xref="S2.SS2.p5.5.m5.2.2.1.2.cmml"><mo id="S2.SS2.p5.5.m5.2.2.1.1.2" stretchy="false" xref="S2.SS2.p5.5.m5.2.2.1.2.1.cmml">[</mo><mrow id="S2.SS2.p5.5.m5.2.2.1.1.1" xref="S2.SS2.p5.5.m5.2.2.1.1.1.cmml"><mrow id="S2.SS2.p5.5.m5.2.2.1.1.1.1" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.cmml"><mi id="S2.SS2.p5.5.m5.2.2.1.1.1.1.3" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="S2.SS2.p5.5.m5.2.2.1.1.1.1.2" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.2.cmml"><mo id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.2" stretchy="false" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.cmml"><mi id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.2" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.1" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.3" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.3" stretchy="false" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.SS2.p5.5.m5.2.2.1.1.1.2" xref="S2.SS2.p5.5.m5.2.2.1.1.1.2.cmml">|</mo><mrow id="S2.SS2.p5.5.m5.2.2.1.1.1.3.2" xref="S2.SS2.p5.5.m5.2.2.1.1.1.3.1.cmml"><mo id="S2.SS2.p5.5.m5.2.2.1.1.1.3.2.1" stretchy="false" xref="S2.SS2.p5.5.m5.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="S2.SS2.p5.5.m5.1.1" xref="S2.SS2.p5.5.m5.1.1.cmml">x</mi><mo id="S2.SS2.p5.5.m5.2.2.1.1.1.3.2.2" stretchy="false" xref="S2.SS2.p5.5.m5.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.SS2.p5.5.m5.2.2.1.1.3" stretchy="false" xref="S2.SS2.p5.5.m5.2.2.1.2.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS2.p5.5.m5.2b"><apply id="S2.SS2.p5.5.m5.2.2.cmml" xref="S2.SS2.p5.5.m5.2.2"><times id="S2.SS2.p5.5.m5.2.2.2.cmml" xref="S2.SS2.p5.5.m5.2.2.2"></times><ci id="S2.SS2.p5.5.m5.2.2.3.cmml" xref="S2.SS2.p5.5.m5.2.2.3">𝕍</ci><apply id="S2.SS2.p5.5.m5.2.2.1.2.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1"><csymbol cd="latexml" id="S2.SS2.p5.5.m5.2.2.1.2.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.2">delimited-[]</csymbol><apply id="S2.SS2.p5.5.m5.2.2.1.1.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1"><csymbol cd="latexml" id="S2.SS2.p5.5.m5.2.2.1.1.1.2.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.2">conditional</csymbol><apply id="S2.SS2.p5.5.m5.2.2.1.1.1.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1"><times id="S2.SS2.p5.5.m5.2.2.1.1.1.1.2.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.2"></times><ci id="S2.SS2.p5.5.m5.2.2.1.1.1.1.3.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.3">𝔼</ci><apply id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.2.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.2.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.2.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.3.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="S2.SS2.p5.5.m5.2.2.1.1.1.3.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.3.2"><csymbol cd="latexml" id="S2.SS2.p5.5.m5.2.2.1.1.1.3.1.1.cmml" xref="S2.SS2.p5.5.m5.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.SS2.p5.5.m5.1.1.cmml" xref="S2.SS2.p5.5.m5.1.1">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p5.5.m5.2c">\mathbb{V}[\mathbb{E}[Y|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p5.5.m5.2d">blackboard_V [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] ]</annotation></semantics></math>. Since recalibration methods take a variance prediction <math alttext="\tilde{\sigma}_{\theta}" class="ltx_Math" display="inline" id="S2.SS2.p5.6.m6.1"><semantics id="S2.SS2.p5.6.m6.1a"><msub id="S2.SS2.p5.6.m6.1.1" xref="S2.SS2.p5.6.m6.1.1.cmml"><mover accent="true" id="S2.SS2.p5.6.m6.1.1.2" xref="S2.SS2.p5.6.m6.1.1.2.cmml"><mi id="S2.SS2.p5.6.m6.1.1.2.2" xref="S2.SS2.p5.6.m6.1.1.2.2.cmml">σ</mi><mo id="S2.SS2.p5.6.m6.1.1.2.1" xref="S2.SS2.p5.6.m6.1.1.2.1.cmml">~</mo></mover><mi id="S2.SS2.p5.6.m6.1.1.3" xref="S2.SS2.p5.6.m6.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS2.p5.6.m6.1b"><apply id="S2.SS2.p5.6.m6.1.1.cmml" xref="S2.SS2.p5.6.m6.1.1"><csymbol cd="ambiguous" id="S2.SS2.p5.6.m6.1.1.1.cmml" xref="S2.SS2.p5.6.m6.1.1">subscript</csymbol><apply id="S2.SS2.p5.6.m6.1.1.2.cmml" xref="S2.SS2.p5.6.m6.1.1.2"><ci id="S2.SS2.p5.6.m6.1.1.2.1.cmml" xref="S2.SS2.p5.6.m6.1.1.2.1">~</ci><ci id="S2.SS2.p5.6.m6.1.1.2.2.cmml" xref="S2.SS2.p5.6.m6.1.1.2.2">𝜎</ci></apply><ci id="S2.SS2.p5.6.m6.1.1.3.cmml" xref="S2.SS2.p5.6.m6.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p5.6.m6.1c">\tilde{\sigma}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p5.6.m6.1d">over~ start_ARG italic_σ end_ARG start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> that is not calibrated and map it to a <math alttext="\sigma_{\theta}=s(\tilde{\sigma}_{\theta})" class="ltx_Math" display="inline" id="S2.SS2.p5.7.m7.1"><semantics id="S2.SS2.p5.7.m7.1a"><mrow id="S2.SS2.p5.7.m7.1.1" xref="S2.SS2.p5.7.m7.1.1.cmml"><msub id="S2.SS2.p5.7.m7.1.1.3" xref="S2.SS2.p5.7.m7.1.1.3.cmml"><mi id="S2.SS2.p5.7.m7.1.1.3.2" xref="S2.SS2.p5.7.m7.1.1.3.2.cmml">σ</mi><mi id="S2.SS2.p5.7.m7.1.1.3.3" xref="S2.SS2.p5.7.m7.1.1.3.3.cmml">θ</mi></msub><mo id="S2.SS2.p5.7.m7.1.1.2" xref="S2.SS2.p5.7.m7.1.1.2.cmml">=</mo><mrow id="S2.SS2.p5.7.m7.1.1.1" xref="S2.SS2.p5.7.m7.1.1.1.cmml"><mi id="S2.SS2.p5.7.m7.1.1.1.3" xref="S2.SS2.p5.7.m7.1.1.1.3.cmml">s</mi><mo id="S2.SS2.p5.7.m7.1.1.1.2" xref="S2.SS2.p5.7.m7.1.1.1.2.cmml">⁢</mo><mrow id="S2.SS2.p5.7.m7.1.1.1.1.1" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.cmml"><mo id="S2.SS2.p5.7.m7.1.1.1.1.1.2" stretchy="false" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.cmml">(</mo><msub id="S2.SS2.p5.7.m7.1.1.1.1.1.1" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.cmml"><mover accent="true" id="S2.SS2.p5.7.m7.1.1.1.1.1.1.2" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.cmml"><mi id="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.2" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.2.cmml">σ</mi><mo id="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.1" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.1.cmml">~</mo></mover><mi id="S2.SS2.p5.7.m7.1.1.1.1.1.1.3" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.3.cmml">θ</mi></msub><mo id="S2.SS2.p5.7.m7.1.1.1.1.1.3" stretchy="false" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS2.p5.7.m7.1b"><apply id="S2.SS2.p5.7.m7.1.1.cmml" xref="S2.SS2.p5.7.m7.1.1"><eq id="S2.SS2.p5.7.m7.1.1.2.cmml" xref="S2.SS2.p5.7.m7.1.1.2"></eq><apply id="S2.SS2.p5.7.m7.1.1.3.cmml" xref="S2.SS2.p5.7.m7.1.1.3"><csymbol cd="ambiguous" id="S2.SS2.p5.7.m7.1.1.3.1.cmml" xref="S2.SS2.p5.7.m7.1.1.3">subscript</csymbol><ci id="S2.SS2.p5.7.m7.1.1.3.2.cmml" xref="S2.SS2.p5.7.m7.1.1.3.2">𝜎</ci><ci id="S2.SS2.p5.7.m7.1.1.3.3.cmml" xref="S2.SS2.p5.7.m7.1.1.3.3">𝜃</ci></apply><apply id="S2.SS2.p5.7.m7.1.1.1.cmml" xref="S2.SS2.p5.7.m7.1.1.1"><times id="S2.SS2.p5.7.m7.1.1.1.2.cmml" xref="S2.SS2.p5.7.m7.1.1.1.2"></times><ci id="S2.SS2.p5.7.m7.1.1.1.3.cmml" xref="S2.SS2.p5.7.m7.1.1.1.3">𝑠</ci><apply id="S2.SS2.p5.7.m7.1.1.1.1.1.1.cmml" xref="S2.SS2.p5.7.m7.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.SS2.p5.7.m7.1.1.1.1.1.1.1.cmml" xref="S2.SS2.p5.7.m7.1.1.1.1.1">subscript</csymbol><apply id="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.cmml" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.2"><ci id="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.1.cmml" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.1">~</ci><ci id="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.2.cmml" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.2.2">𝜎</ci></apply><ci id="S2.SS2.p5.7.m7.1.1.1.1.1.1.3.cmml" xref="S2.SS2.p5.7.m7.1.1.1.1.1.1.3">𝜃</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS2.p5.7.m7.1c">\sigma_{\theta}=s(\tilde{\sigma}_{\theta})</annotation><annotation encoding="application/x-llamapun" id="S2.SS2.p5.7.m7.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT = italic_s ( over~ start_ARG italic_σ end_ARG start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT )</annotation></semantics></math> that obeys Def. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem1" title="Definition 2.1. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.1</span></a>, this formal imprecision has no effect on recalibration procedures.</p> </div> </section> <section class="ltx_subsection" id="S2.SS3"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">2.3 </span>Epistemic Uncertainty</h3> <div class="ltx_para" id="S2.SS3.p1"> <p class="ltx_p" id="S2.SS3.p1.4">To separate the total uncertainty into its aleatoric and epistemic components, models trained to predict pairs are considered. Such models shall be fitted using datasets composed of triplets <math alttext="(x,y_{1},y_{2})" class="ltx_Math" display="inline" id="S2.SS3.p1.1.m1.3"><semantics id="S2.SS3.p1.1.m1.3a"><mrow id="S2.SS3.p1.1.m1.3.3.2" xref="S2.SS3.p1.1.m1.3.3.3.cmml"><mo id="S2.SS3.p1.1.m1.3.3.2.3" stretchy="false" xref="S2.SS3.p1.1.m1.3.3.3.cmml">(</mo><mi id="S2.SS3.p1.1.m1.1.1" xref="S2.SS3.p1.1.m1.1.1.cmml">x</mi><mo id="S2.SS3.p1.1.m1.3.3.2.4" xref="S2.SS3.p1.1.m1.3.3.3.cmml">,</mo><msub id="S2.SS3.p1.1.m1.2.2.1.1" xref="S2.SS3.p1.1.m1.2.2.1.1.cmml"><mi id="S2.SS3.p1.1.m1.2.2.1.1.2" xref="S2.SS3.p1.1.m1.2.2.1.1.2.cmml">y</mi><mn id="S2.SS3.p1.1.m1.2.2.1.1.3" xref="S2.SS3.p1.1.m1.2.2.1.1.3.cmml">1</mn></msub><mo id="S2.SS3.p1.1.m1.3.3.2.5" xref="S2.SS3.p1.1.m1.3.3.3.cmml">,</mo><msub id="S2.SS3.p1.1.m1.3.3.2.2" xref="S2.SS3.p1.1.m1.3.3.2.2.cmml"><mi id="S2.SS3.p1.1.m1.3.3.2.2.2" xref="S2.SS3.p1.1.m1.3.3.2.2.2.cmml">y</mi><mn id="S2.SS3.p1.1.m1.3.3.2.2.3" xref="S2.SS3.p1.1.m1.3.3.2.2.3.cmml">2</mn></msub><mo id="S2.SS3.p1.1.m1.3.3.2.6" stretchy="false" xref="S2.SS3.p1.1.m1.3.3.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p1.1.m1.3b"><vector id="S2.SS3.p1.1.m1.3.3.3.cmml" xref="S2.SS3.p1.1.m1.3.3.2"><ci id="S2.SS3.p1.1.m1.1.1.cmml" xref="S2.SS3.p1.1.m1.1.1">𝑥</ci><apply id="S2.SS3.p1.1.m1.2.2.1.1.cmml" xref="S2.SS3.p1.1.m1.2.2.1.1"><csymbol cd="ambiguous" id="S2.SS3.p1.1.m1.2.2.1.1.1.cmml" xref="S2.SS3.p1.1.m1.2.2.1.1">subscript</csymbol><ci id="S2.SS3.p1.1.m1.2.2.1.1.2.cmml" xref="S2.SS3.p1.1.m1.2.2.1.1.2">𝑦</ci><cn id="S2.SS3.p1.1.m1.2.2.1.1.3.cmml" type="integer" xref="S2.SS3.p1.1.m1.2.2.1.1.3">1</cn></apply><apply id="S2.SS3.p1.1.m1.3.3.2.2.cmml" xref="S2.SS3.p1.1.m1.3.3.2.2"><csymbol cd="ambiguous" id="S2.SS3.p1.1.m1.3.3.2.2.1.cmml" xref="S2.SS3.p1.1.m1.3.3.2.2">subscript</csymbol><ci id="S2.SS3.p1.1.m1.3.3.2.2.2.cmml" xref="S2.SS3.p1.1.m1.3.3.2.2.2">𝑦</ci><cn id="S2.SS3.p1.1.m1.3.3.2.2.3.cmml" type="integer" xref="S2.SS3.p1.1.m1.3.3.2.2.3">2</cn></apply></vector></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p1.1.m1.3c">(x,y_{1},y_{2})</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p1.1.m1.3d">( italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT )</annotation></semantics></math>, where <math alttext="y_{1}" class="ltx_Math" display="inline" id="S2.SS3.p1.2.m2.1"><semantics id="S2.SS3.p1.2.m2.1a"><msub id="S2.SS3.p1.2.m2.1.1" xref="S2.SS3.p1.2.m2.1.1.cmml"><mi id="S2.SS3.p1.2.m2.1.1.2" xref="S2.SS3.p1.2.m2.1.1.2.cmml">y</mi><mn id="S2.SS3.p1.2.m2.1.1.3" xref="S2.SS3.p1.2.m2.1.1.3.cmml">1</mn></msub><annotation-xml encoding="MathML-Content" id="S2.SS3.p1.2.m2.1b"><apply id="S2.SS3.p1.2.m2.1.1.cmml" xref="S2.SS3.p1.2.m2.1.1"><csymbol cd="ambiguous" id="S2.SS3.p1.2.m2.1.1.1.cmml" xref="S2.SS3.p1.2.m2.1.1">subscript</csymbol><ci id="S2.SS3.p1.2.m2.1.1.2.cmml" xref="S2.SS3.p1.2.m2.1.1.2">𝑦</ci><cn id="S2.SS3.p1.2.m2.1.1.3.cmml" type="integer" xref="S2.SS3.p1.2.m2.1.1.3">1</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p1.2.m2.1c">y_{1}</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p1.2.m2.1d">italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="y_{2}" class="ltx_Math" display="inline" id="S2.SS3.p1.3.m3.1"><semantics id="S2.SS3.p1.3.m3.1a"><msub id="S2.SS3.p1.3.m3.1.1" xref="S2.SS3.p1.3.m3.1.1.cmml"><mi id="S2.SS3.p1.3.m3.1.1.2" xref="S2.SS3.p1.3.m3.1.1.2.cmml">y</mi><mn id="S2.SS3.p1.3.m3.1.1.3" xref="S2.SS3.p1.3.m3.1.1.3.cmml">2</mn></msub><annotation-xml encoding="MathML-Content" id="S2.SS3.p1.3.m3.1b"><apply id="S2.SS3.p1.3.m3.1.1.cmml" xref="S2.SS3.p1.3.m3.1.1"><csymbol cd="ambiguous" id="S2.SS3.p1.3.m3.1.1.1.cmml" xref="S2.SS3.p1.3.m3.1.1">subscript</csymbol><ci id="S2.SS3.p1.3.m3.1.1.2.cmml" xref="S2.SS3.p1.3.m3.1.1.2">𝑦</ci><cn id="S2.SS3.p1.3.m3.1.1.3.cmml" type="integer" xref="S2.SS3.p1.3.m3.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p1.3.m3.1c">y_{2}</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p1.3.m3.1d">italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math> are sampled iid from <math alttext="p(Y|x)" class="ltx_Math" display="inline" id="S2.SS3.p1.4.m4.1"><semantics id="S2.SS3.p1.4.m4.1a"><mrow id="S2.SS3.p1.4.m4.1.1" xref="S2.SS3.p1.4.m4.1.1.cmml"><mi id="S2.SS3.p1.4.m4.1.1.3" xref="S2.SS3.p1.4.m4.1.1.3.cmml">p</mi><mo id="S2.SS3.p1.4.m4.1.1.2" xref="S2.SS3.p1.4.m4.1.1.2.cmml">⁢</mo><mrow id="S2.SS3.p1.4.m4.1.1.1.1" xref="S2.SS3.p1.4.m4.1.1.1.1.1.cmml"><mo id="S2.SS3.p1.4.m4.1.1.1.1.2" stretchy="false" xref="S2.SS3.p1.4.m4.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS3.p1.4.m4.1.1.1.1.1" xref="S2.SS3.p1.4.m4.1.1.1.1.1.cmml"><mi id="S2.SS3.p1.4.m4.1.1.1.1.1.2" xref="S2.SS3.p1.4.m4.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S2.SS3.p1.4.m4.1.1.1.1.1.1" xref="S2.SS3.p1.4.m4.1.1.1.1.1.1.cmml">|</mo><mi id="S2.SS3.p1.4.m4.1.1.1.1.1.3" xref="S2.SS3.p1.4.m4.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS3.p1.4.m4.1.1.1.1.3" stretchy="false" xref="S2.SS3.p1.4.m4.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p1.4.m4.1b"><apply id="S2.SS3.p1.4.m4.1.1.cmml" xref="S2.SS3.p1.4.m4.1.1"><times id="S2.SS3.p1.4.m4.1.1.2.cmml" xref="S2.SS3.p1.4.m4.1.1.2"></times><ci id="S2.SS3.p1.4.m4.1.1.3.cmml" xref="S2.SS3.p1.4.m4.1.1.3">𝑝</ci><apply id="S2.SS3.p1.4.m4.1.1.1.1.1.cmml" xref="S2.SS3.p1.4.m4.1.1.1.1"><csymbol cd="latexml" id="S2.SS3.p1.4.m4.1.1.1.1.1.1.cmml" xref="S2.SS3.p1.4.m4.1.1.1.1.1.1">conditional</csymbol><ci id="S2.SS3.p1.4.m4.1.1.1.1.1.2.cmml" xref="S2.SS3.p1.4.m4.1.1.1.1.1.2">𝑌</ci><ci id="S2.SS3.p1.4.m4.1.1.1.1.1.3.cmml" xref="S2.SS3.p1.4.m4.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p1.4.m4.1c">p(Y|x)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p1.4.m4.1d">italic_p ( italic_Y | italic_x )</annotation></semantics></math>. Because of this, a model that is first order calibrated at predicting pairs will be of the form:</p> </div> <div class="ltx_theorem ltx_theorem_definition" id="S2.Thmtheorem3"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem3.1.1.1">Definition 2.3</span></span><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem3.2.2">.</span> </h6> <div class="ltx_para" id="S2.Thmtheorem3.p1"> <p class="ltx_p" id="S2.Thmtheorem3.p1.1"><math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem3.p1.1.m1.2"><semantics id="S2.Thmtheorem3.p1.1.m1.2a"><mrow id="S2.Thmtheorem3.p1.1.m1.2.2" xref="S2.Thmtheorem3.p1.1.m1.2.2.cmml"><msub id="S2.Thmtheorem3.p1.1.m1.2.2.4" xref="S2.Thmtheorem3.p1.1.m1.2.2.4.cmml"><mi id="S2.Thmtheorem3.p1.1.m1.2.2.4.2" xref="S2.Thmtheorem3.p1.1.m1.2.2.4.2.cmml">p</mi><mi id="S2.Thmtheorem3.p1.1.m1.2.2.4.3" xref="S2.Thmtheorem3.p1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem3.p1.1.m1.2.2.3" xref="S2.Thmtheorem3.p1.1.m1.2.2.3.cmml">⁢</mo><mrow id="S2.Thmtheorem3.p1.1.m1.2.2.2.2" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml"><mo id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.3" stretchy="false" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml">(</mo><msub id="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1" xref="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2" xref="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3" xref="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.4" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml">,</mo><mrow id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.cmml"><msub id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.cmml"><mi id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.5" stretchy="false" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem3.p1.1.m1.2b"><apply id="S2.Thmtheorem3.p1.1.m1.2.2.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2"><times id="S2.Thmtheorem3.p1.1.m1.2.2.3.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.3"></times><apply id="S2.Thmtheorem3.p1.1.m1.2.2.4.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.4"><csymbol cd="ambiguous" id="S2.Thmtheorem3.p1.1.m1.2.2.4.1.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.4">subscript</csymbol><ci id="S2.Thmtheorem3.p1.1.m1.2.2.4.2.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.4.2">𝑝</ci><ci id="S2.Thmtheorem3.p1.1.m1.2.2.4.3.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2"><apply id="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.cmml" xref="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="S2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3.cmml" xref="S2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem3.p1.1.m1.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem3.p1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> is first-order calibrated at predicting pairs if:</p> <table class="ltx_equationgroup ltx_eqn_table" id="S2.E5"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="S2.E5X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S2.E5X.2.1.1.m1.2"><semantics id="S2.E5X.2.1.1.m1.2a"><mrow id="S2.E5X.2.1.1.m1.2.2" xref="S2.E5X.2.1.1.m1.2.2.cmml"><msub id="S2.E5X.2.1.1.m1.2.2.4" xref="S2.E5X.2.1.1.m1.2.2.4.cmml"><mi id="S2.E5X.2.1.1.m1.2.2.4.2" xref="S2.E5X.2.1.1.m1.2.2.4.2.cmml">p</mi><mi id="S2.E5X.2.1.1.m1.2.2.4.3" xref="S2.E5X.2.1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="S2.E5X.2.1.1.m1.2.2.3" xref="S2.E5X.2.1.1.m1.2.2.3.cmml">⁢</mo><mrow id="S2.E5X.2.1.1.m1.2.2.2.2" xref="S2.E5X.2.1.1.m1.2.2.2.3.cmml"><mo id="S2.E5X.2.1.1.m1.2.2.2.2.3" stretchy="false" xref="S2.E5X.2.1.1.m1.2.2.2.3.cmml">(</mo><msub id="S2.E5X.2.1.1.m1.1.1.1.1.1" xref="S2.E5X.2.1.1.m1.1.1.1.1.1.cmml"><mi id="S2.E5X.2.1.1.m1.1.1.1.1.1.2" xref="S2.E5X.2.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.E5X.2.1.1.m1.1.1.1.1.1.3" xref="S2.E5X.2.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E5X.2.1.1.m1.2.2.2.2.4" xref="S2.E5X.2.1.1.m1.2.2.2.3.cmml">,</mo><mrow id="S2.E5X.2.1.1.m1.2.2.2.2.2" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.cmml"><msub id="S2.E5X.2.1.1.m1.2.2.2.2.2.2" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.2.cmml"><mi id="S2.E5X.2.1.1.m1.2.2.2.2.2.2.2" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.E5X.2.1.1.m1.2.2.2.2.2.2.3" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.E5X.2.1.1.m1.2.2.2.2.2.1" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="S2.E5X.2.1.1.m1.2.2.2.2.2.3" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.E5X.2.1.1.m1.2.2.2.2.5" stretchy="false" xref="S2.E5X.2.1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.E5X.2.1.1.m1.2b"><apply id="S2.E5X.2.1.1.m1.2.2.cmml" xref="S2.E5X.2.1.1.m1.2.2"><times id="S2.E5X.2.1.1.m1.2.2.3.cmml" xref="S2.E5X.2.1.1.m1.2.2.3"></times><apply id="S2.E5X.2.1.1.m1.2.2.4.cmml" xref="S2.E5X.2.1.1.m1.2.2.4"><csymbol cd="ambiguous" id="S2.E5X.2.1.1.m1.2.2.4.1.cmml" xref="S2.E5X.2.1.1.m1.2.2.4">subscript</csymbol><ci id="S2.E5X.2.1.1.m1.2.2.4.2.cmml" xref="S2.E5X.2.1.1.m1.2.2.4.2">𝑝</ci><ci id="S2.E5X.2.1.1.m1.2.2.4.3.cmml" xref="S2.E5X.2.1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S2.E5X.2.1.1.m1.2.2.2.3.cmml" xref="S2.E5X.2.1.1.m1.2.2.2.2"><apply id="S2.E5X.2.1.1.m1.1.1.1.1.1.cmml" xref="S2.E5X.2.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.E5X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="S2.E5X.2.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="S2.E5X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="S2.E5X.2.1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="S2.E5X.2.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="S2.E5X.2.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="S2.E5X.2.1.1.m1.2.2.2.2.2.cmml" xref="S2.E5X.2.1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="S2.E5X.2.1.1.m1.2.2.2.2.2.1.cmml" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="S2.E5X.2.1.1.m1.2.2.2.2.2.2.cmml" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.E5X.2.1.1.m1.2.2.2.2.2.2.1.cmml" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="S2.E5X.2.1.1.m1.2.2.2.2.2.2.2.cmml" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.E5X.2.1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.E5X.2.1.1.m1.2.2.2.2.2.3.cmml" xref="S2.E5X.2.1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E5X.2.1.1.m1.2c">\displaystyle p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.E5X.2.1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[p(y_{1},y_{2}|X)|[x]]\;," class="ltx_Math" display="inline" id="S2.E5X.3.2.2.m1.2"><semantics id="S2.E5X.3.2.2.m1.2a"><mrow id="S2.E5X.3.2.2.m1.2.2.1" xref="S2.E5X.3.2.2.m1.2.2.1.1.cmml"><mrow id="S2.E5X.3.2.2.m1.2.2.1.1" xref="S2.E5X.3.2.2.m1.2.2.1.1.cmml"><mi id="S2.E5X.3.2.2.m1.2.2.1.1.3" xref="S2.E5X.3.2.2.m1.2.2.1.1.3.cmml"></mi><mo id="S2.E5X.3.2.2.m1.2.2.1.1.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.2.cmml">=</mo><mrow id="S2.E5X.3.2.2.m1.2.2.1.1.1" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.cmml"><mi id="S2.E5X.3.2.2.m1.2.2.1.1.1.3" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.3.cmml">𝔼</mi><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.2.cmml">⁢</mo><mrow id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.2.cmml"><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.2" stretchy="false" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.cmml"><mrow id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.cmml"><mi id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.4" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.4.cmml">p</mi><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.3" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.3.cmml"><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.3" stretchy="false" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.3.cmml">(</mo><msub id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml"><mi id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.3" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.4" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.3.cmml">,</mo><mrow id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.cmml"><msub id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.cmml"><mi id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.2.cmml">y</mi><mn id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.3" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.1" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.1.cmml">|</mo><mi id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.3" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.3.cmml">X</mi></mrow><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.5" stretchy="false" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.3.cmml">)</mo></mrow></mrow><mo fence="false" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.3" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.3.cmml">|</mo><mrow id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.1.cmml"><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.2.1" stretchy="false" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.1.1.cmml">[</mo><mi id="S2.E5X.3.2.2.m1.1.1" xref="S2.E5X.3.2.2.m1.1.1.cmml">x</mi><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.2.2" stretchy="false" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.3" rspace="0.280em" stretchy="false" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S2.E5X.3.2.2.m1.2.2.1.2" xref="S2.E5X.3.2.2.m1.2.2.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E5X.3.2.2.m1.2b"><apply id="S2.E5X.3.2.2.m1.2.2.1.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1"><eq id="S2.E5X.3.2.2.m1.2.2.1.1.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.2"></eq><csymbol cd="latexml" id="S2.E5X.3.2.2.m1.2.2.1.1.3.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.3">absent</csymbol><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1"><times id="S2.E5X.3.2.2.m1.2.2.1.1.1.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.2"></times><ci id="S2.E5X.3.2.2.m1.2.2.1.1.1.3.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.3">𝔼</ci><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.2.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.3.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.3">conditional</csymbol><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2"><times id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.3.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.3"></times><ci id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.4.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.4">𝑝</ci><interval closure="open" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.3.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2"><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2"><csymbol cd="latexml" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.1">conditional</csymbol><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2">subscript</csymbol><ci id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.2.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.2">𝑦</ci><cn id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.3.cmml" type="integer" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.2.3">2</cn></apply><ci id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.3.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.2.2.2.2.3">𝑋</ci></apply></interval></apply><apply id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.2"><csymbol cd="latexml" id="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.1.1.cmml" xref="S2.E5X.3.2.2.m1.2.2.1.1.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="S2.E5X.3.2.2.m1.1.1.cmml" xref="S2.E5X.3.2.2.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E5X.3.2.2.m1.2c">\displaystyle=\mathbb{E}[p(y_{1},y_{2}|X)|[x]]\;,</annotation><annotation encoding="application/x-llamapun" id="S2.E5X.3.2.2.m1.2d">= blackboard_E [ italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ) | [ italic_x ] ] ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="2"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(5)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="S2.E5Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[p(y_{1}|X)\cdot p(y_{2}|X)|[x]]\;." class="ltx_Math" display="inline" id="S2.E5Xa.2.1.1.m1.2"><semantics id="S2.E5Xa.2.1.1.m1.2a"><mrow id="S2.E5Xa.2.1.1.m1.2.2.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.cmml"><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.cmml"><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.3.cmml"></mi><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.2.cmml">=</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.cmml"><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.3.cmml">𝔼</mi><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.2.cmml">⁢</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.2.cmml"><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.2" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.cmml"><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml"><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml">p</mi><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><msub id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" rspace="0.222em" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml">⋅</mo><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">p</mi></mrow><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml"><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.2" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml"><msub id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2.cmml">y</mi><mn id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><mi id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3.cmml">X</mi></mrow><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.3" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml">|</mo><mrow id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.cmml"><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.1" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.1.cmml">[</mo><mi id="S2.E5Xa.2.1.1.m1.1.1" xref="S2.E5Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.2" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.3" stretchy="false" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S2.E5Xa.2.1.1.m1.2.2.1.2" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E5Xa.2.1.1.m1.2b"><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1"><eq id="S2.E5Xa.2.1.1.m1.2.2.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.2"></eq><csymbol cd="latexml" id="S2.E5Xa.2.1.1.m1.2.2.1.1.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.3">absent</csymbol><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1"><times id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.2"></times><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.3">𝔼</ci><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.2.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3">conditional</csymbol><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2"><times id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3"></times><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2">⋅</ci><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1"><times id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2"></times><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3">𝑝</ci><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑝</ci></apply><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2">subscript</csymbol><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2">𝑦</ci><cn id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3.cmml" type="integer" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3">2</cn></apply><ci id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3">𝑋</ci></apply></apply><apply id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2"><csymbol cd="latexml" id="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="S2.E5Xa.2.1.1.m1.1.1.cmml" xref="S2.E5Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E5Xa.2.1.1.m1.2c">\displaystyle=\mathbb{E}[p(y_{1}|X)\cdot p(y_{2}|X)|[x]]\;.</annotation><annotation encoding="application/x-llamapun" id="S2.E5Xa.2.1.1.m1.2d">= blackboard_E [ italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) ⋅ italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ) | [ italic_x ] ] .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> </div> </div> <div class="ltx_para" id="S2.SS3.p2"> <p class="ltx_p" id="S2.SS3.p2.1">Note that training on pairs does not deteriorate the performance on single-output predictions, since the marginal distribution <math alttext="p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="S2.SS3.p2.1.m1.1"><semantics id="S2.SS3.p2.1.m1.1a"><mrow id="S2.SS3.p2.1.m1.1.1" xref="S2.SS3.p2.1.m1.1.1.cmml"><msub id="S2.SS3.p2.1.m1.1.1.3" xref="S2.SS3.p2.1.m1.1.1.3.cmml"><mi id="S2.SS3.p2.1.m1.1.1.3.2" xref="S2.SS3.p2.1.m1.1.1.3.2.cmml">p</mi><mi id="S2.SS3.p2.1.m1.1.1.3.3" xref="S2.SS3.p2.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="S2.SS3.p2.1.m1.1.1.2" xref="S2.SS3.p2.1.m1.1.1.2.cmml">⁢</mo><mrow id="S2.SS3.p2.1.m1.1.1.1.1" xref="S2.SS3.p2.1.m1.1.1.1.1.1.cmml"><mo id="S2.SS3.p2.1.m1.1.1.1.1.2" stretchy="false" xref="S2.SS3.p2.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS3.p2.1.m1.1.1.1.1.1" xref="S2.SS3.p2.1.m1.1.1.1.1.1.cmml"><msub id="S2.SS3.p2.1.m1.1.1.1.1.1.2" xref="S2.SS3.p2.1.m1.1.1.1.1.1.2.cmml"><mi id="S2.SS3.p2.1.m1.1.1.1.1.1.2.2" xref="S2.SS3.p2.1.m1.1.1.1.1.1.2.2.cmml">y</mi><mn id="S2.SS3.p2.1.m1.1.1.1.1.1.2.3" xref="S2.SS3.p2.1.m1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.SS3.p2.1.m1.1.1.1.1.1.1" xref="S2.SS3.p2.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.SS3.p2.1.m1.1.1.1.1.1.3" xref="S2.SS3.p2.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS3.p2.1.m1.1.1.1.1.3" stretchy="false" xref="S2.SS3.p2.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p2.1.m1.1b"><apply id="S2.SS3.p2.1.m1.1.1.cmml" xref="S2.SS3.p2.1.m1.1.1"><times id="S2.SS3.p2.1.m1.1.1.2.cmml" xref="S2.SS3.p2.1.m1.1.1.2"></times><apply id="S2.SS3.p2.1.m1.1.1.3.cmml" xref="S2.SS3.p2.1.m1.1.1.3"><csymbol cd="ambiguous" id="S2.SS3.p2.1.m1.1.1.3.1.cmml" xref="S2.SS3.p2.1.m1.1.1.3">subscript</csymbol><ci id="S2.SS3.p2.1.m1.1.1.3.2.cmml" xref="S2.SS3.p2.1.m1.1.1.3.2">𝑝</ci><ci id="S2.SS3.p2.1.m1.1.1.3.3.cmml" xref="S2.SS3.p2.1.m1.1.1.3.3">𝜃</ci></apply><apply id="S2.SS3.p2.1.m1.1.1.1.1.1.cmml" xref="S2.SS3.p2.1.m1.1.1.1.1"><csymbol cd="latexml" id="S2.SS3.p2.1.m1.1.1.1.1.1.1.cmml" xref="S2.SS3.p2.1.m1.1.1.1.1.1.1">conditional</csymbol><apply id="S2.SS3.p2.1.m1.1.1.1.1.1.2.cmml" xref="S2.SS3.p2.1.m1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.SS3.p2.1.m1.1.1.1.1.1.2.1.cmml" xref="S2.SS3.p2.1.m1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.SS3.p2.1.m1.1.1.1.1.1.2.2.cmml" xref="S2.SS3.p2.1.m1.1.1.1.1.1.2.2">𝑦</ci><cn id="S2.SS3.p2.1.m1.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.SS3.p2.1.m1.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.SS3.p2.1.m1.1.1.1.1.1.3.cmml" xref="S2.SS3.p2.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p2.1.m1.1c">p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p2.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> will remain first-order calibrated.</p> </div> <div class="ltx_theorem ltx_theorem_theorem" id="S2.Thmtheorem4"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem4.1.1.1">Theorem 2.4</span></span><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem4.2.2">.</span> </h6> <div class="ltx_para" id="S2.Thmtheorem4.p1"> <p class="ltx_p" id="S2.Thmtheorem4.p1.4"><span class="ltx_text ltx_font_italic" id="S2.Thmtheorem4.p1.4.4">Let <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem4.p1.1.1.m1.2"><semantics id="S2.Thmtheorem4.p1.1.1.m1.2a"><mrow id="S2.Thmtheorem4.p1.1.1.m1.2.2" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.cmml"><msub id="S2.Thmtheorem4.p1.1.1.m1.2.2.4" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.4.cmml"><mi id="S2.Thmtheorem4.p1.1.1.m1.2.2.4.2" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.4.2.cmml">p</mi><mi id="S2.Thmtheorem4.p1.1.1.m1.2.2.4.3" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem4.p1.1.1.m1.2.2.3" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.3.cmml">⁢</mo><mrow id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml"><mo id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.3" stretchy="false" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml">(</mo><msub id="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1" xref="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2" xref="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3" xref="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.4" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml">,</mo><mrow id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.cmml"><msub id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.cmml"><mi id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.5" stretchy="false" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem4.p1.1.1.m1.2b"><apply id="S2.Thmtheorem4.p1.1.1.m1.2.2.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2"><times id="S2.Thmtheorem4.p1.1.1.m1.2.2.3.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.3"></times><apply id="S2.Thmtheorem4.p1.1.1.m1.2.2.4.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.4"><csymbol cd="ambiguous" id="S2.Thmtheorem4.p1.1.1.m1.2.2.4.1.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.4">subscript</csymbol><ci id="S2.Thmtheorem4.p1.1.1.m1.2.2.4.2.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.4.2">𝑝</ci><ci id="S2.Thmtheorem4.p1.1.1.m1.2.2.4.3.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2"><apply id="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="S2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3.cmml" xref="S2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem4.p1.1.1.m1.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem4.p1.1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> be first-order calibrated at predicting pairs. Then its marginals <math alttext="p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem4.p1.2.2.m2.1"><semantics id="S2.Thmtheorem4.p1.2.2.m2.1a"><mrow id="S2.Thmtheorem4.p1.2.2.m2.1.1" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.cmml"><msub id="S2.Thmtheorem4.p1.2.2.m2.1.1.3" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.3.cmml"><mi id="S2.Thmtheorem4.p1.2.2.m2.1.1.3.2" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.3.2.cmml">p</mi><mi id="S2.Thmtheorem4.p1.2.2.m2.1.1.3.3" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.3.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem4.p1.2.2.m2.1.1.2" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.2.cmml">⁢</mo><mrow id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.cmml"><mo id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.2" stretchy="false" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.cmml"><msub id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.cmml"><mi id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.2" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.2.cmml">y</mi><mn id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.3" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.1" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.3" stretchy="false" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem4.p1.2.2.m2.1b"><apply id="S2.Thmtheorem4.p1.2.2.m2.1.1.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1"><times id="S2.Thmtheorem4.p1.2.2.m2.1.1.2.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.2"></times><apply id="S2.Thmtheorem4.p1.2.2.m2.1.1.3.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.3"><csymbol cd="ambiguous" id="S2.Thmtheorem4.p1.2.2.m2.1.1.3.1.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.3">subscript</csymbol><ci id="S2.Thmtheorem4.p1.2.2.m2.1.1.3.2.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.3.2">𝑝</ci><ci id="S2.Thmtheorem4.p1.2.2.m2.1.1.3.3.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.3.3">𝜃</ci></apply><apply id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1"><csymbol cd="latexml" id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.1">conditional</csymbol><apply id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.1.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2">subscript</csymbol><ci id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.2.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.2">𝑦</ci><cn id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3.cmml" xref="S2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem4.p1.2.2.m2.1c">p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem4.p1.2.2.m2.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> and <math alttext="p_{\theta}(y_{2}|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem4.p1.3.3.m3.1"><semantics id="S2.Thmtheorem4.p1.3.3.m3.1a"><mrow id="S2.Thmtheorem4.p1.3.3.m3.1.1" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.cmml"><msub id="S2.Thmtheorem4.p1.3.3.m3.1.1.3" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.3.cmml"><mi id="S2.Thmtheorem4.p1.3.3.m3.1.1.3.2" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.3.2.cmml">p</mi><mi id="S2.Thmtheorem4.p1.3.3.m3.1.1.3.3" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.3.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem4.p1.3.3.m3.1.1.2" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.2.cmml">⁢</mo><mrow id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml"><mo id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.2" stretchy="false" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml"><msub id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.cmml"><mi id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2.cmml">y</mi><mn id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.3" stretchy="false" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem4.p1.3.3.m3.1b"><apply id="S2.Thmtheorem4.p1.3.3.m3.1.1.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1"><times id="S2.Thmtheorem4.p1.3.3.m3.1.1.2.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.2"></times><apply id="S2.Thmtheorem4.p1.3.3.m3.1.1.3.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.3"><csymbol cd="ambiguous" id="S2.Thmtheorem4.p1.3.3.m3.1.1.3.1.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.3">subscript</csymbol><ci id="S2.Thmtheorem4.p1.3.3.m3.1.1.3.2.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.3.2">𝑝</ci><ci id="S2.Thmtheorem4.p1.3.3.m3.1.1.3.3.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.3.3">𝜃</ci></apply><apply id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1"><csymbol cd="latexml" id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1">conditional</csymbol><apply id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.1.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2">subscript</csymbol><ci id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2">𝑦</ci><cn id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3">2</cn></apply><ci id="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3.cmml" xref="S2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem4.p1.3.3.m3.1c">p_{\theta}(y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem4.p1.3.3.m3.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> are first order calibrated over <math alttext="p(y|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem4.p1.4.4.m4.1"><semantics id="S2.Thmtheorem4.p1.4.4.m4.1a"><mrow id="S2.Thmtheorem4.p1.4.4.m4.1.1" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.cmml"><mi id="S2.Thmtheorem4.p1.4.4.m4.1.1.3" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.3.cmml">p</mi><mo id="S2.Thmtheorem4.p1.4.4.m4.1.1.2" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.2.cmml">⁢</mo><mrow id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.cmml"><mo id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.2" stretchy="false" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.2" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.1" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.3" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.3" stretchy="false" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem4.p1.4.4.m4.1b"><apply id="S2.Thmtheorem4.p1.4.4.m4.1.1.cmml" xref="S2.Thmtheorem4.p1.4.4.m4.1.1"><times id="S2.Thmtheorem4.p1.4.4.m4.1.1.2.cmml" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.2"></times><ci id="S2.Thmtheorem4.p1.4.4.m4.1.1.3.cmml" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.3">𝑝</ci><apply id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1"><csymbol cd="latexml" id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.1">conditional</csymbol><ci id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.2">𝑦</ci><ci id="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.3.cmml" xref="S2.Thmtheorem4.p1.4.4.m4.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem4.p1.4.4.m4.1c">p(y|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem4.p1.4.4.m4.1d">italic_p ( italic_y | italic_x )</annotation></semantics></math>.</span></p> </div> </div> <div class="ltx_para" id="S2.SS3.p3"> <p class="ltx_p" id="S2.SS3.p3.1">In particular, the variance of the marginal distribution will have the same decomposition as in Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a>. The advantage of using pairs of outputs is that now the predicted correlation between the two answers can be used as a measure of the epistemic uncertainty. More precisely:</p> </div> <div class="ltx_theorem ltx_theorem_theorem" id="S2.Thmtheorem5"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem5.1.1.1">Theorem 2.5</span></span><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem5.2.2">.</span> </h6> <div class="ltx_para" id="S2.Thmtheorem5.p1"> <p class="ltx_p" id="S2.Thmtheorem5.p1.1"><span class="ltx_text ltx_font_italic" id="S2.Thmtheorem5.p1.1.1">Let <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S2.Thmtheorem5.p1.1.1.m1.2"><semantics id="S2.Thmtheorem5.p1.1.1.m1.2a"><mrow id="S2.Thmtheorem5.p1.1.1.m1.2.2" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.cmml"><msub id="S2.Thmtheorem5.p1.1.1.m1.2.2.4" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.4.cmml"><mi id="S2.Thmtheorem5.p1.1.1.m1.2.2.4.2" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.4.2.cmml">p</mi><mi id="S2.Thmtheorem5.p1.1.1.m1.2.2.4.3" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="S2.Thmtheorem5.p1.1.1.m1.2.2.3" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.3.cmml">⁢</mo><mrow id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.3.cmml"><mo id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.3" stretchy="false" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.3.cmml">(</mo><msub id="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1" xref="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.2" xref="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.3" xref="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.4" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.3.cmml">,</mo><mrow id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.cmml"><msub id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.cmml"><mi id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.2" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.3" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.1" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.3" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.5" stretchy="false" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem5.p1.1.1.m1.2b"><apply id="S2.Thmtheorem5.p1.1.1.m1.2.2.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2"><times id="S2.Thmtheorem5.p1.1.1.m1.2.2.3.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.3"></times><apply id="S2.Thmtheorem5.p1.1.1.m1.2.2.4.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.4"><csymbol cd="ambiguous" id="S2.Thmtheorem5.p1.1.1.m1.2.2.4.1.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.4">subscript</csymbol><ci id="S2.Thmtheorem5.p1.1.1.m1.2.2.4.2.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.4.2">𝑝</ci><ci id="S2.Thmtheorem5.p1.1.1.m1.2.2.4.3.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.3.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2"><apply id="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="S2.Thmtheorem5.p1.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.3.cmml" xref="S2.Thmtheorem5.p1.1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem5.p1.1.1.m1.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem5.p1.1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> be first-order calibrated at predicting pairs. Then:</span></p> <table class="ltx_equation ltx_eqn_table" id="S2.E6"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathrm{cov}_{\theta}(x)\triangleq\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]=\mathbb{V% }[\mathbb{E}[Y_{1}|X]|[x]]\;." class="ltx_Math" display="block" id="S2.E6.m1.3"><semantics id="S2.E6.m1.3a"><mrow id="S2.E6.m1.3.3.1" xref="S2.E6.m1.3.3.1.1.cmml"><mrow id="S2.E6.m1.3.3.1.1" xref="S2.E6.m1.3.3.1.1.cmml"><mrow id="S2.E6.m1.3.3.1.1.5" xref="S2.E6.m1.3.3.1.1.5.cmml"><msub id="S2.E6.m1.3.3.1.1.5.2" xref="S2.E6.m1.3.3.1.1.5.2.cmml"><mi id="S2.E6.m1.3.3.1.1.5.2.2" xref="S2.E6.m1.3.3.1.1.5.2.2.cmml">cov</mi><mi id="S2.E6.m1.3.3.1.1.5.2.3" xref="S2.E6.m1.3.3.1.1.5.2.3.cmml">θ</mi></msub><mo id="S2.E6.m1.3.3.1.1.5.1" xref="S2.E6.m1.3.3.1.1.5.1.cmml">⁢</mo><mrow id="S2.E6.m1.3.3.1.1.5.3.2" xref="S2.E6.m1.3.3.1.1.5.cmml"><mo id="S2.E6.m1.3.3.1.1.5.3.2.1" stretchy="false" xref="S2.E6.m1.3.3.1.1.5.cmml">(</mo><mi id="S2.E6.m1.1.1" xref="S2.E6.m1.1.1.cmml">x</mi><mo id="S2.E6.m1.3.3.1.1.5.3.2.2" stretchy="false" xref="S2.E6.m1.3.3.1.1.5.cmml">)</mo></mrow></mrow><mo id="S2.E6.m1.3.3.1.1.6" xref="S2.E6.m1.3.3.1.1.6.cmml">≜</mo><mrow id="S2.E6.m1.3.3.1.1.2" xref="S2.E6.m1.3.3.1.1.2.cmml"><msub id="S2.E6.m1.3.3.1.1.2.4" xref="S2.E6.m1.3.3.1.1.2.4.cmml"><mi id="S2.E6.m1.3.3.1.1.2.4.2" xref="S2.E6.m1.3.3.1.1.2.4.2.cmml">ℂ</mi><mi id="S2.E6.m1.3.3.1.1.2.4.3" xref="S2.E6.m1.3.3.1.1.2.4.3.cmml">θ</mi></msub><mo id="S2.E6.m1.3.3.1.1.2.3" xref="S2.E6.m1.3.3.1.1.2.3.cmml">⁢</mo><mrow id="S2.E6.m1.3.3.1.1.2.2.2" xref="S2.E6.m1.3.3.1.1.2.2.3.cmml"><mo id="S2.E6.m1.3.3.1.1.2.2.2.3" stretchy="false" xref="S2.E6.m1.3.3.1.1.2.2.3.cmml">[</mo><msub id="S2.E6.m1.3.3.1.1.1.1.1.1" xref="S2.E6.m1.3.3.1.1.1.1.1.1.cmml"><mi id="S2.E6.m1.3.3.1.1.1.1.1.1.2" xref="S2.E6.m1.3.3.1.1.1.1.1.1.2.cmml">Y</mi><mn id="S2.E6.m1.3.3.1.1.1.1.1.1.3" xref="S2.E6.m1.3.3.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E6.m1.3.3.1.1.2.2.2.4" xref="S2.E6.m1.3.3.1.1.2.2.3.cmml">,</mo><mrow id="S2.E6.m1.3.3.1.1.2.2.2.2" xref="S2.E6.m1.3.3.1.1.2.2.2.2.cmml"><msub id="S2.E6.m1.3.3.1.1.2.2.2.2.2" xref="S2.E6.m1.3.3.1.1.2.2.2.2.2.cmml"><mi id="S2.E6.m1.3.3.1.1.2.2.2.2.2.2" xref="S2.E6.m1.3.3.1.1.2.2.2.2.2.2.cmml">Y</mi><mn id="S2.E6.m1.3.3.1.1.2.2.2.2.2.3" xref="S2.E6.m1.3.3.1.1.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.E6.m1.3.3.1.1.2.2.2.2.1" xref="S2.E6.m1.3.3.1.1.2.2.2.2.1.cmml">|</mo><mi id="S2.E6.m1.3.3.1.1.2.2.2.2.3" xref="S2.E6.m1.3.3.1.1.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.E6.m1.3.3.1.1.2.2.2.5" stretchy="false" xref="S2.E6.m1.3.3.1.1.2.2.3.cmml">]</mo></mrow></mrow><mo id="S2.E6.m1.3.3.1.1.7" xref="S2.E6.m1.3.3.1.1.7.cmml">=</mo><mrow id="S2.E6.m1.3.3.1.1.3" xref="S2.E6.m1.3.3.1.1.3.cmml"><mi id="S2.E6.m1.3.3.1.1.3.3" xref="S2.E6.m1.3.3.1.1.3.3.cmml">𝕍</mi><mo id="S2.E6.m1.3.3.1.1.3.2" xref="S2.E6.m1.3.3.1.1.3.2.cmml">⁢</mo><mrow id="S2.E6.m1.3.3.1.1.3.1.1" xref="S2.E6.m1.3.3.1.1.3.1.2.cmml"><mo id="S2.E6.m1.3.3.1.1.3.1.1.2" stretchy="false" xref="S2.E6.m1.3.3.1.1.3.1.2.1.cmml">[</mo><mrow id="S2.E6.m1.3.3.1.1.3.1.1.1" xref="S2.E6.m1.3.3.1.1.3.1.1.1.cmml"><mrow id="S2.E6.m1.3.3.1.1.3.1.1.1.1" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.cmml"><mi id="S2.E6.m1.3.3.1.1.3.1.1.1.1.3" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.3.cmml">𝔼</mi><mo id="S2.E6.m1.3.3.1.1.3.1.1.1.1.2" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.2.cmml"><mo id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.2" stretchy="false" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.cmml"><msub id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.cmml"><mi id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.2" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.3" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.1" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.3" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.3" stretchy="false" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.E6.m1.3.3.1.1.3.1.1.1.2" xref="S2.E6.m1.3.3.1.1.3.1.1.1.2.cmml">|</mo><mrow id="S2.E6.m1.3.3.1.1.3.1.1.1.3.2" xref="S2.E6.m1.3.3.1.1.3.1.1.1.3.1.cmml"><mo id="S2.E6.m1.3.3.1.1.3.1.1.1.3.2.1" stretchy="false" xref="S2.E6.m1.3.3.1.1.3.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E6.m1.2.2" xref="S2.E6.m1.2.2.cmml">x</mi><mo id="S2.E6.m1.3.3.1.1.3.1.1.1.3.2.2" stretchy="false" xref="S2.E6.m1.3.3.1.1.3.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E6.m1.3.3.1.1.3.1.1.3" stretchy="false" xref="S2.E6.m1.3.3.1.1.3.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S2.E6.m1.3.3.1.2" xref="S2.E6.m1.3.3.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E6.m1.3b"><apply id="S2.E6.m1.3.3.1.1.cmml" xref="S2.E6.m1.3.3.1"><and id="S2.E6.m1.3.3.1.1a.cmml" xref="S2.E6.m1.3.3.1"></and><apply id="S2.E6.m1.3.3.1.1b.cmml" xref="S2.E6.m1.3.3.1"><ci id="S2.E6.m1.3.3.1.1.6.cmml" xref="S2.E6.m1.3.3.1.1.6">≜</ci><apply id="S2.E6.m1.3.3.1.1.5.cmml" xref="S2.E6.m1.3.3.1.1.5"><times id="S2.E6.m1.3.3.1.1.5.1.cmml" xref="S2.E6.m1.3.3.1.1.5.1"></times><apply id="S2.E6.m1.3.3.1.1.5.2.cmml" xref="S2.E6.m1.3.3.1.1.5.2"><csymbol cd="ambiguous" id="S2.E6.m1.3.3.1.1.5.2.1.cmml" xref="S2.E6.m1.3.3.1.1.5.2">subscript</csymbol><ci id="S2.E6.m1.3.3.1.1.5.2.2.cmml" xref="S2.E6.m1.3.3.1.1.5.2.2">cov</ci><ci id="S2.E6.m1.3.3.1.1.5.2.3.cmml" xref="S2.E6.m1.3.3.1.1.5.2.3">𝜃</ci></apply><ci id="S2.E6.m1.1.1.cmml" xref="S2.E6.m1.1.1">𝑥</ci></apply><apply id="S2.E6.m1.3.3.1.1.2.cmml" xref="S2.E6.m1.3.3.1.1.2"><times id="S2.E6.m1.3.3.1.1.2.3.cmml" xref="S2.E6.m1.3.3.1.1.2.3"></times><apply id="S2.E6.m1.3.3.1.1.2.4.cmml" xref="S2.E6.m1.3.3.1.1.2.4"><csymbol cd="ambiguous" id="S2.E6.m1.3.3.1.1.2.4.1.cmml" xref="S2.E6.m1.3.3.1.1.2.4">subscript</csymbol><ci id="S2.E6.m1.3.3.1.1.2.4.2.cmml" xref="S2.E6.m1.3.3.1.1.2.4.2">ℂ</ci><ci id="S2.E6.m1.3.3.1.1.2.4.3.cmml" xref="S2.E6.m1.3.3.1.1.2.4.3">𝜃</ci></apply><interval closure="closed" id="S2.E6.m1.3.3.1.1.2.2.3.cmml" xref="S2.E6.m1.3.3.1.1.2.2.2"><apply id="S2.E6.m1.3.3.1.1.1.1.1.1.cmml" xref="S2.E6.m1.3.3.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.E6.m1.3.3.1.1.1.1.1.1.1.cmml" xref="S2.E6.m1.3.3.1.1.1.1.1.1">subscript</csymbol><ci id="S2.E6.m1.3.3.1.1.1.1.1.1.2.cmml" xref="S2.E6.m1.3.3.1.1.1.1.1.1.2">𝑌</ci><cn id="S2.E6.m1.3.3.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.E6.m1.3.3.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.E6.m1.3.3.1.1.2.2.2.2.cmml" xref="S2.E6.m1.3.3.1.1.2.2.2.2"><csymbol cd="latexml" id="S2.E6.m1.3.3.1.1.2.2.2.2.1.cmml" xref="S2.E6.m1.3.3.1.1.2.2.2.2.1">conditional</csymbol><apply id="S2.E6.m1.3.3.1.1.2.2.2.2.2.cmml" xref="S2.E6.m1.3.3.1.1.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.E6.m1.3.3.1.1.2.2.2.2.2.1.cmml" xref="S2.E6.m1.3.3.1.1.2.2.2.2.2">subscript</csymbol><ci id="S2.E6.m1.3.3.1.1.2.2.2.2.2.2.cmml" xref="S2.E6.m1.3.3.1.1.2.2.2.2.2.2">𝑌</ci><cn id="S2.E6.m1.3.3.1.1.2.2.2.2.2.3.cmml" type="integer" xref="S2.E6.m1.3.3.1.1.2.2.2.2.2.3">2</cn></apply><ci id="S2.E6.m1.3.3.1.1.2.2.2.2.3.cmml" xref="S2.E6.m1.3.3.1.1.2.2.2.2.3">𝑥</ci></apply></interval></apply></apply><apply id="S2.E6.m1.3.3.1.1c.cmml" xref="S2.E6.m1.3.3.1"><eq id="S2.E6.m1.3.3.1.1.7.cmml" xref="S2.E6.m1.3.3.1.1.7"></eq><share href="https://arxiv.org/html/2503.13317v1#S2.E6.m1.3.3.1.1.2.cmml" id="S2.E6.m1.3.3.1.1d.cmml" xref="S2.E6.m1.3.3.1"></share><apply id="S2.E6.m1.3.3.1.1.3.cmml" xref="S2.E6.m1.3.3.1.1.3"><times id="S2.E6.m1.3.3.1.1.3.2.cmml" xref="S2.E6.m1.3.3.1.1.3.2"></times><ci id="S2.E6.m1.3.3.1.1.3.3.cmml" xref="S2.E6.m1.3.3.1.1.3.3">𝕍</ci><apply id="S2.E6.m1.3.3.1.1.3.1.2.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1"><csymbol cd="latexml" id="S2.E6.m1.3.3.1.1.3.1.2.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.2">delimited-[]</csymbol><apply id="S2.E6.m1.3.3.1.1.3.1.1.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1"><csymbol cd="latexml" id="S2.E6.m1.3.3.1.1.3.1.1.1.2.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.2">conditional</csymbol><apply id="S2.E6.m1.3.3.1.1.3.1.1.1.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1"><times id="S2.E6.m1.3.3.1.1.3.1.1.1.1.2.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.2"></times><ci id="S2.E6.m1.3.3.1.1.3.1.1.1.1.3.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.3">𝔼</ci><apply id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.2.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.2.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.2.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.3.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="S2.E6.m1.3.3.1.1.3.1.1.1.3.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.3.2"><csymbol cd="latexml" id="S2.E6.m1.3.3.1.1.3.1.1.1.3.1.1.cmml" xref="S2.E6.m1.3.3.1.1.3.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E6.m1.2.2.cmml" xref="S2.E6.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E6.m1.3c">\mathrm{cov}_{\theta}(x)\triangleq\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]=\mathbb{V% }[\mathbb{E}[Y_{1}|X]|[x]]\;.</annotation><annotation encoding="application/x-llamapun" id="S2.E6.m1.3d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ≜ blackboard_C start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ] = blackboard_V [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(6)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_para" id="S2.SS3.p4"> <p class="ltx_p" id="S2.SS3.p4.1">This result is formally very similar to Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a>, with the key difference that now, by construction, <math alttext="\mathbb{E}[\mathbb{C}[Y_{1},Y_{2}|X]|[x]]=0" class="ltx_Math" display="inline" id="S2.SS3.p4.1.m1.2"><semantics id="S2.SS3.p4.1.m1.2a"><mrow id="S2.SS3.p4.1.m1.2.2" xref="S2.SS3.p4.1.m1.2.2.cmml"><mrow id="S2.SS3.p4.1.m1.2.2.1" xref="S2.SS3.p4.1.m1.2.2.1.cmml"><mi id="S2.SS3.p4.1.m1.2.2.1.3" xref="S2.SS3.p4.1.m1.2.2.1.3.cmml">𝔼</mi><mo id="S2.SS3.p4.1.m1.2.2.1.2" xref="S2.SS3.p4.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="S2.SS3.p4.1.m1.2.2.1.1.1" xref="S2.SS3.p4.1.m1.2.2.1.1.2.cmml"><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.2" stretchy="false" xref="S2.SS3.p4.1.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="S2.SS3.p4.1.m1.2.2.1.1.1.1" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.cmml"><mrow id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.cmml"><mi id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.4" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.4.cmml">ℂ</mi><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.3" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.3.cmml">⁢</mo><mrow id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.3.cmml"><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.3" stretchy="false" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.3.cmml">[</mo><msub id="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mi id="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mn id="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.4" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.3.cmml">,</mo><mrow id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.cmml"><msub id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.cmml"><mi id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.2" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.2.cmml">Y</mi><mn id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.3" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.1" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.1.cmml">|</mo><mi id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.3" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.3.cmml">X</mi></mrow><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.5" stretchy="false" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.3.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.3" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.3.cmml">|</mo><mrow id="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.2" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.1.cmml"><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.2.1" stretchy="false" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.1.1.cmml">[</mo><mi id="S2.SS3.p4.1.m1.1.1" xref="S2.SS3.p4.1.m1.1.1.cmml">x</mi><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.2.2" stretchy="false" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mo id="S2.SS3.p4.1.m1.2.2.1.1.1.3" stretchy="false" xref="S2.SS3.p4.1.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S2.SS3.p4.1.m1.2.2.2" xref="S2.SS3.p4.1.m1.2.2.2.cmml">=</mo><mn id="S2.SS3.p4.1.m1.2.2.3" xref="S2.SS3.p4.1.m1.2.2.3.cmml">0</mn></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p4.1.m1.2b"><apply id="S2.SS3.p4.1.m1.2.2.cmml" xref="S2.SS3.p4.1.m1.2.2"><eq id="S2.SS3.p4.1.m1.2.2.2.cmml" xref="S2.SS3.p4.1.m1.2.2.2"></eq><apply id="S2.SS3.p4.1.m1.2.2.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1"><times id="S2.SS3.p4.1.m1.2.2.1.2.cmml" xref="S2.SS3.p4.1.m1.2.2.1.2"></times><ci id="S2.SS3.p4.1.m1.2.2.1.3.cmml" xref="S2.SS3.p4.1.m1.2.2.1.3">𝔼</ci><apply id="S2.SS3.p4.1.m1.2.2.1.1.2.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="S2.SS3.p4.1.m1.2.2.1.1.2.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="S2.SS3.p4.1.m1.2.2.1.1.1.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.3.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.3">conditional</csymbol><apply id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2"><times id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.3.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.3"></times><ci id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.4.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.4">ℂ</ci><interval closure="closed" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.3.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2"><apply id="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.2">𝑌</ci><cn id="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2"><csymbol cd="latexml" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.1">conditional</csymbol><apply id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2">subscript</csymbol><ci id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.2.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.2">𝑌</ci><cn id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.3.cmml" type="integer" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.2.3">2</cn></apply><ci id="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.3.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.2.2.2.2.3">𝑋</ci></apply></interval></apply><apply id="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.2"><csymbol cd="latexml" id="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.1.1.cmml" xref="S2.SS3.p4.1.m1.2.2.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="S2.SS3.p4.1.m1.1.1.cmml" xref="S2.SS3.p4.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><cn id="S2.SS3.p4.1.m1.2.2.3.cmml" type="integer" xref="S2.SS3.p4.1.m1.2.2.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p4.1.m1.2c">\mathbb{E}[\mathbb{C}[Y_{1},Y_{2}|X]|[x]]=0</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p4.1.m1.2d">blackboard_E [ blackboard_C [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] = 0</annotation></semantics></math>.</p> </div> <div class="ltx_para" id="S2.SS3.p5"> <p class="ltx_p" id="S2.SS3.p5.5">The epistemic uncertainty estimate in Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a> depends on our ability to sample the distribution <math alttext="p(y|x)" class="ltx_Math" display="inline" id="S2.SS3.p5.1.m1.1"><semantics id="S2.SS3.p5.1.m1.1a"><mrow id="S2.SS3.p5.1.m1.1.1" xref="S2.SS3.p5.1.m1.1.1.cmml"><mi id="S2.SS3.p5.1.m1.1.1.3" xref="S2.SS3.p5.1.m1.1.1.3.cmml">p</mi><mo id="S2.SS3.p5.1.m1.1.1.2" xref="S2.SS3.p5.1.m1.1.1.2.cmml">⁢</mo><mrow id="S2.SS3.p5.1.m1.1.1.1.1" xref="S2.SS3.p5.1.m1.1.1.1.1.1.cmml"><mo id="S2.SS3.p5.1.m1.1.1.1.1.2" stretchy="false" xref="S2.SS3.p5.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S2.SS3.p5.1.m1.1.1.1.1.1" xref="S2.SS3.p5.1.m1.1.1.1.1.1.cmml"><mi id="S2.SS3.p5.1.m1.1.1.1.1.1.2" xref="S2.SS3.p5.1.m1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.SS3.p5.1.m1.1.1.1.1.1.1" xref="S2.SS3.p5.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.SS3.p5.1.m1.1.1.1.1.1.3" xref="S2.SS3.p5.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS3.p5.1.m1.1.1.1.1.3" stretchy="false" xref="S2.SS3.p5.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p5.1.m1.1b"><apply id="S2.SS3.p5.1.m1.1.1.cmml" xref="S2.SS3.p5.1.m1.1.1"><times id="S2.SS3.p5.1.m1.1.1.2.cmml" xref="S2.SS3.p5.1.m1.1.1.2"></times><ci id="S2.SS3.p5.1.m1.1.1.3.cmml" xref="S2.SS3.p5.1.m1.1.1.3">𝑝</ci><apply id="S2.SS3.p5.1.m1.1.1.1.1.1.cmml" xref="S2.SS3.p5.1.m1.1.1.1.1"><csymbol cd="latexml" id="S2.SS3.p5.1.m1.1.1.1.1.1.1.cmml" xref="S2.SS3.p5.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.SS3.p5.1.m1.1.1.1.1.1.2.cmml" xref="S2.SS3.p5.1.m1.1.1.1.1.1.2">𝑦</ci><ci id="S2.SS3.p5.1.m1.1.1.1.1.1.3.cmml" xref="S2.SS3.p5.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p5.1.m1.1c">p(y|x)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p5.1.m1.1d">italic_p ( italic_y | italic_x )</annotation></semantics></math> twice independently for each <math alttext="x" class="ltx_Math" display="inline" id="S2.SS3.p5.2.m2.1"><semantics id="S2.SS3.p5.2.m2.1a"><mi id="S2.SS3.p5.2.m2.1.1" xref="S2.SS3.p5.2.m2.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="S2.SS3.p5.2.m2.1b"><ci id="S2.SS3.p5.2.m2.1.1.cmml" xref="S2.SS3.p5.2.m2.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p5.2.m2.1c">x</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p5.2.m2.1d">italic_x</annotation></semantics></math> to produce triplets of the form <math alttext="(x,y_{1},y_{2})" class="ltx_Math" display="inline" id="S2.SS3.p5.3.m3.3"><semantics id="S2.SS3.p5.3.m3.3a"><mrow id="S2.SS3.p5.3.m3.3.3.2" xref="S2.SS3.p5.3.m3.3.3.3.cmml"><mo id="S2.SS3.p5.3.m3.3.3.2.3" stretchy="false" xref="S2.SS3.p5.3.m3.3.3.3.cmml">(</mo><mi id="S2.SS3.p5.3.m3.1.1" xref="S2.SS3.p5.3.m3.1.1.cmml">x</mi><mo id="S2.SS3.p5.3.m3.3.3.2.4" xref="S2.SS3.p5.3.m3.3.3.3.cmml">,</mo><msub id="S2.SS3.p5.3.m3.2.2.1.1" xref="S2.SS3.p5.3.m3.2.2.1.1.cmml"><mi id="S2.SS3.p5.3.m3.2.2.1.1.2" xref="S2.SS3.p5.3.m3.2.2.1.1.2.cmml">y</mi><mn id="S2.SS3.p5.3.m3.2.2.1.1.3" xref="S2.SS3.p5.3.m3.2.2.1.1.3.cmml">1</mn></msub><mo id="S2.SS3.p5.3.m3.3.3.2.5" xref="S2.SS3.p5.3.m3.3.3.3.cmml">,</mo><msub id="S2.SS3.p5.3.m3.3.3.2.2" xref="S2.SS3.p5.3.m3.3.3.2.2.cmml"><mi id="S2.SS3.p5.3.m3.3.3.2.2.2" xref="S2.SS3.p5.3.m3.3.3.2.2.2.cmml">y</mi><mn id="S2.SS3.p5.3.m3.3.3.2.2.3" xref="S2.SS3.p5.3.m3.3.3.2.2.3.cmml">2</mn></msub><mo id="S2.SS3.p5.3.m3.3.3.2.6" stretchy="false" xref="S2.SS3.p5.3.m3.3.3.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p5.3.m3.3b"><vector id="S2.SS3.p5.3.m3.3.3.3.cmml" xref="S2.SS3.p5.3.m3.3.3.2"><ci id="S2.SS3.p5.3.m3.1.1.cmml" xref="S2.SS3.p5.3.m3.1.1">𝑥</ci><apply id="S2.SS3.p5.3.m3.2.2.1.1.cmml" xref="S2.SS3.p5.3.m3.2.2.1.1"><csymbol cd="ambiguous" id="S2.SS3.p5.3.m3.2.2.1.1.1.cmml" xref="S2.SS3.p5.3.m3.2.2.1.1">subscript</csymbol><ci id="S2.SS3.p5.3.m3.2.2.1.1.2.cmml" xref="S2.SS3.p5.3.m3.2.2.1.1.2">𝑦</ci><cn id="S2.SS3.p5.3.m3.2.2.1.1.3.cmml" type="integer" xref="S2.SS3.p5.3.m3.2.2.1.1.3">1</cn></apply><apply id="S2.SS3.p5.3.m3.3.3.2.2.cmml" xref="S2.SS3.p5.3.m3.3.3.2.2"><csymbol cd="ambiguous" id="S2.SS3.p5.3.m3.3.3.2.2.1.cmml" xref="S2.SS3.p5.3.m3.3.3.2.2">subscript</csymbol><ci id="S2.SS3.p5.3.m3.3.3.2.2.2.cmml" xref="S2.SS3.p5.3.m3.3.3.2.2.2">𝑦</ci><cn id="S2.SS3.p5.3.m3.3.3.2.2.3.cmml" type="integer" xref="S2.SS3.p5.3.m3.3.3.2.2.3">2</cn></apply></vector></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p5.3.m3.3c">(x,y_{1},y_{2})</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p5.3.m3.3d">( italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT )</annotation></semantics></math>. Yet, the vast majority of datasets only contain pairs of the form <math alttext="(x,y)" class="ltx_Math" display="inline" id="S2.SS3.p5.4.m4.2"><semantics id="S2.SS3.p5.4.m4.2a"><mrow id="S2.SS3.p5.4.m4.2.3.2" xref="S2.SS3.p5.4.m4.2.3.1.cmml"><mo id="S2.SS3.p5.4.m4.2.3.2.1" stretchy="false" xref="S2.SS3.p5.4.m4.2.3.1.cmml">(</mo><mi id="S2.SS3.p5.4.m4.1.1" xref="S2.SS3.p5.4.m4.1.1.cmml">x</mi><mo id="S2.SS3.p5.4.m4.2.3.2.2" xref="S2.SS3.p5.4.m4.2.3.1.cmml">,</mo><mi id="S2.SS3.p5.4.m4.2.2" xref="S2.SS3.p5.4.m4.2.2.cmml">y</mi><mo id="S2.SS3.p5.4.m4.2.3.2.3" stretchy="false" xref="S2.SS3.p5.4.m4.2.3.1.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p5.4.m4.2b"><interval closure="open" id="S2.SS3.p5.4.m4.2.3.1.cmml" xref="S2.SS3.p5.4.m4.2.3.2"><ci id="S2.SS3.p5.4.m4.1.1.cmml" xref="S2.SS3.p5.4.m4.1.1">𝑥</ci><ci id="S2.SS3.p5.4.m4.2.2.cmml" xref="S2.SS3.p5.4.m4.2.2">𝑦</ci></interval></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p5.4.m4.2c">(x,y)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p5.4.m4.2d">( italic_x , italic_y )</annotation></semantics></math>. In this case, the model can be trained using triplets of the form <math alttext="(x,y,y)" class="ltx_Math" display="inline" id="S2.SS3.p5.5.m5.3"><semantics id="S2.SS3.p5.5.m5.3a"><mrow id="S2.SS3.p5.5.m5.3.4.2" xref="S2.SS3.p5.5.m5.3.4.1.cmml"><mo id="S2.SS3.p5.5.m5.3.4.2.1" stretchy="false" xref="S2.SS3.p5.5.m5.3.4.1.cmml">(</mo><mi id="S2.SS3.p5.5.m5.1.1" xref="S2.SS3.p5.5.m5.1.1.cmml">x</mi><mo id="S2.SS3.p5.5.m5.3.4.2.2" xref="S2.SS3.p5.5.m5.3.4.1.cmml">,</mo><mi id="S2.SS3.p5.5.m5.2.2" xref="S2.SS3.p5.5.m5.2.2.cmml">y</mi><mo id="S2.SS3.p5.5.m5.3.4.2.3" xref="S2.SS3.p5.5.m5.3.4.1.cmml">,</mo><mi id="S2.SS3.p5.5.m5.3.3" xref="S2.SS3.p5.5.m5.3.3.cmml">y</mi><mo id="S2.SS3.p5.5.m5.3.4.2.4" stretchy="false" xref="S2.SS3.p5.5.m5.3.4.1.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p5.5.m5.3b"><vector id="S2.SS3.p5.5.m5.3.4.1.cmml" xref="S2.SS3.p5.5.m5.3.4.2"><ci id="S2.SS3.p5.5.m5.1.1.cmml" xref="S2.SS3.p5.5.m5.1.1">𝑥</ci><ci id="S2.SS3.p5.5.m5.2.2.cmml" xref="S2.SS3.p5.5.m5.2.2">𝑦</ci><ci id="S2.SS3.p5.5.m5.3.3.cmml" xref="S2.SS3.p5.5.m5.3.3">𝑦</ci></vector></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p5.5.m5.3c">(x,y,y)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p5.5.m5.3d">( italic_x , italic_y , italic_y )</annotation></semantics></math>. Then, it is possible to prove the following.</p> </div> <div class="ltx_theorem ltx_theorem_theorem" id="S2.Thmtheorem6"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem6.1.1.1">Theorem 2.6</span></span><span class="ltx_text ltx_font_bold" id="S2.Thmtheorem6.2.2">.</span> </h6> <div class="ltx_para" id="S2.Thmtheorem6.p1"> <p class="ltx_p" id="S2.Thmtheorem6.p1.1"><span class="ltx_text ltx_font_italic" id="S2.Thmtheorem6.p1.1.1">Suppose to train a model to predict pairs, but drawing only one sample from the data distribution. In this case <math alttext="p(y_{1},y_{2}|x)=p(y_{1}|x)\delta(y_{2}-y_{1})" class="ltx_Math" display="inline" id="S2.Thmtheorem6.p1.1.1.m1.4"><semantics id="S2.Thmtheorem6.p1.1.1.m1.4a"><mrow id="S2.Thmtheorem6.p1.1.1.m1.4.4" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.cmml"><mrow id="S2.Thmtheorem6.p1.1.1.m1.2.2.2" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.cmml"><mi id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.4" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.4.cmml">p</mi><mo id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.3" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.3.cmml">⁢</mo><mrow id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.3.cmml"><mo id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.3" stretchy="false" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.3.cmml">(</mo><msub id="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1" xref="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.cmml"><mi id="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.2" xref="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.3" xref="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.4" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.3.cmml">,</mo><mrow id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.cmml"><msub id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.cmml"><mi id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.2" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.3" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.1" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.1.cmml">|</mo><mi id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.3" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.5" stretchy="false" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.3.cmml">)</mo></mrow></mrow><mo id="S2.Thmtheorem6.p1.1.1.m1.4.4.5" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.5.cmml">=</mo><mrow id="S2.Thmtheorem6.p1.1.1.m1.4.4.4" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.cmml"><mi id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.4" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.4.cmml">p</mi><mo id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3.cmml">⁢</mo><mrow id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.cmml"><mo id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.2" stretchy="false" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.cmml">(</mo><mrow id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.cmml"><msub id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.cmml"><mi id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.2" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.2.cmml">y</mi><mn id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.3" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.1" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.1.cmml">|</mo><mi id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.3" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.3" stretchy="false" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.cmml">)</mo></mrow><mo id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3a" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3.cmml">⁢</mo><mi id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.5" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.5.cmml">δ</mi><mo id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3b" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3.cmml">⁢</mo><mrow id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.cmml"><mo id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.2" stretchy="false" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.cmml">(</mo><mrow id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.cmml"><msub id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.cmml"><mi id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.2" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.2.cmml">y</mi><mn id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.3" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.3.cmml">2</mn></msub><mo id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.1" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.1.cmml">−</mo><msub id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.cmml"><mi id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.2" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.2.cmml">y</mi><mn id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.3" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.3.cmml">1</mn></msub></mrow><mo id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.3" stretchy="false" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.Thmtheorem6.p1.1.1.m1.4b"><apply id="S2.Thmtheorem6.p1.1.1.m1.4.4.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4"><eq id="S2.Thmtheorem6.p1.1.1.m1.4.4.5.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.5"></eq><apply id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2"><times id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.3.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.3"></times><ci id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.4.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.4">𝑝</ci><interval closure="open" id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.3.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2"><apply id="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.Thmtheorem6.p1.1.1.m1.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2"><csymbol cd="latexml" id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.1">conditional</csymbol><apply id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2">subscript</csymbol><ci id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.3.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.2.2.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4"><times id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.3"></times><ci id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.4.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.4">𝑝</ci><apply id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1"><csymbol cd="latexml" id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.1">conditional</csymbol><apply id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2"><csymbol cd="ambiguous" id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2">subscript</csymbol><ci id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.2">𝑦</ci><cn id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.3.cmml" type="integer" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.2.3">1</cn></apply><ci id="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.3.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.3.3.3.1.1.1.3">𝑥</ci></apply><ci id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.5.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.5">𝛿</ci><apply id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1"><minus id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.1"></minus><apply id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2"><csymbol cd="ambiguous" id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2">subscript</csymbol><ci id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.2">𝑦</ci><cn id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.3.cmml" type="integer" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.2.3">2</cn></apply><apply id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3"><csymbol cd="ambiguous" id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.1.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3">subscript</csymbol><ci id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.2.cmml" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.2">𝑦</ci><cn id="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.3.cmml" type="integer" xref="S2.Thmtheorem6.p1.1.1.m1.4.4.4.2.1.1.3.3">1</cn></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Thmtheorem6.p1.1.1.m1.4c">p(y_{1},y_{2}|x)=p(y_{1}|x)\delta(y_{2}-y_{1})</annotation><annotation encoding="application/x-llamapun" id="S2.Thmtheorem6.p1.1.1.m1.4d">italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) = italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) italic_δ ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT - italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT )</annotation></semantics></math> , making the two samples perfectly correlated. Then:</span></p> <table class="ltx_equation ltx_eqn_table" id="S2.E7"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathrm{cov}_{\theta}(x)=\mathbb{E}[\mathbb{V}[Y_{1}|X]|[x]]+\mathbb{V}[% \mathbb{E}[Y_{1}|X]|[x]]\;." class="ltx_Math" display="block" id="S2.E7.m1.4"><semantics id="S2.E7.m1.4a"><mrow id="S2.E7.m1.4.4.1" xref="S2.E7.m1.4.4.1.1.cmml"><mrow id="S2.E7.m1.4.4.1.1" xref="S2.E7.m1.4.4.1.1.cmml"><mrow id="S2.E7.m1.4.4.1.1.4" xref="S2.E7.m1.4.4.1.1.4.cmml"><msub id="S2.E7.m1.4.4.1.1.4.2" xref="S2.E7.m1.4.4.1.1.4.2.cmml"><mi id="S2.E7.m1.4.4.1.1.4.2.2" xref="S2.E7.m1.4.4.1.1.4.2.2.cmml">cov</mi><mi id="S2.E7.m1.4.4.1.1.4.2.3" xref="S2.E7.m1.4.4.1.1.4.2.3.cmml">θ</mi></msub><mo id="S2.E7.m1.4.4.1.1.4.1" xref="S2.E7.m1.4.4.1.1.4.1.cmml">⁢</mo><mrow id="S2.E7.m1.4.4.1.1.4.3.2" xref="S2.E7.m1.4.4.1.1.4.cmml"><mo id="S2.E7.m1.4.4.1.1.4.3.2.1" stretchy="false" xref="S2.E7.m1.4.4.1.1.4.cmml">(</mo><mi id="S2.E7.m1.1.1" xref="S2.E7.m1.1.1.cmml">x</mi><mo id="S2.E7.m1.4.4.1.1.4.3.2.2" stretchy="false" xref="S2.E7.m1.4.4.1.1.4.cmml">)</mo></mrow></mrow><mo id="S2.E7.m1.4.4.1.1.3" xref="S2.E7.m1.4.4.1.1.3.cmml">=</mo><mrow id="S2.E7.m1.4.4.1.1.2" xref="S2.E7.m1.4.4.1.1.2.cmml"><mrow id="S2.E7.m1.4.4.1.1.1.1" xref="S2.E7.m1.4.4.1.1.1.1.cmml"><mi id="S2.E7.m1.4.4.1.1.1.1.3" xref="S2.E7.m1.4.4.1.1.1.1.3.cmml">𝔼</mi><mo id="S2.E7.m1.4.4.1.1.1.1.2" xref="S2.E7.m1.4.4.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E7.m1.4.4.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.1.1.1.2.cmml"><mo id="S2.E7.m1.4.4.1.1.1.1.1.1.2" stretchy="false" xref="S2.E7.m1.4.4.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E7.m1.4.4.1.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.cmml"><mrow id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mi id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.3" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.3.cmml">𝕍</mi><mo id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.2" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.cmml"><msub id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.3" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.3" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.E7.m1.4.4.1.1.1.1.1.1.1.2" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.2.cmml">|</mo><mrow id="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.2" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.1.cmml"><mo id="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.2.1" stretchy="false" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E7.m1.2.2" xref="S2.E7.m1.2.2.cmml">x</mi><mo id="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.2.2" stretchy="false" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E7.m1.4.4.1.1.1.1.1.1.3" stretchy="false" xref="S2.E7.m1.4.4.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S2.E7.m1.4.4.1.1.2.3" xref="S2.E7.m1.4.4.1.1.2.3.cmml">+</mo><mrow id="S2.E7.m1.4.4.1.1.2.2" xref="S2.E7.m1.4.4.1.1.2.2.cmml"><mi id="S2.E7.m1.4.4.1.1.2.2.3" xref="S2.E7.m1.4.4.1.1.2.2.3.cmml">𝕍</mi><mo id="S2.E7.m1.4.4.1.1.2.2.2" xref="S2.E7.m1.4.4.1.1.2.2.2.cmml">⁢</mo><mrow id="S2.E7.m1.4.4.1.1.2.2.1.1" xref="S2.E7.m1.4.4.1.1.2.2.1.2.cmml"><mo id="S2.E7.m1.4.4.1.1.2.2.1.1.2" stretchy="false" xref="S2.E7.m1.4.4.1.1.2.2.1.2.1.cmml">[</mo><mrow id="S2.E7.m1.4.4.1.1.2.2.1.1.1" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.cmml"><mrow id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.cmml"><mi id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.3" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.2" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.2.cmml"><mo id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.2" stretchy="false" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.cmml"><msub id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.2" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.3" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.1" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.3" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.3" stretchy="false" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S2.E7.m1.4.4.1.1.2.2.1.1.1.2" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.2.cmml">|</mo><mrow id="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.2" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.1.cmml"><mo id="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.2.1" stretchy="false" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="S2.E7.m1.3.3" xref="S2.E7.m1.3.3.cmml">x</mi><mo id="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.2.2" stretchy="false" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S2.E7.m1.4.4.1.1.2.2.1.1.3" stretchy="false" xref="S2.E7.m1.4.4.1.1.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><mo id="S2.E7.m1.4.4.1.2" xref="S2.E7.m1.4.4.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E7.m1.4b"><apply id="S2.E7.m1.4.4.1.1.cmml" xref="S2.E7.m1.4.4.1"><eq id="S2.E7.m1.4.4.1.1.3.cmml" xref="S2.E7.m1.4.4.1.1.3"></eq><apply id="S2.E7.m1.4.4.1.1.4.cmml" xref="S2.E7.m1.4.4.1.1.4"><times id="S2.E7.m1.4.4.1.1.4.1.cmml" xref="S2.E7.m1.4.4.1.1.4.1"></times><apply id="S2.E7.m1.4.4.1.1.4.2.cmml" xref="S2.E7.m1.4.4.1.1.4.2"><csymbol cd="ambiguous" id="S2.E7.m1.4.4.1.1.4.2.1.cmml" xref="S2.E7.m1.4.4.1.1.4.2">subscript</csymbol><ci id="S2.E7.m1.4.4.1.1.4.2.2.cmml" xref="S2.E7.m1.4.4.1.1.4.2.2">cov</ci><ci id="S2.E7.m1.4.4.1.1.4.2.3.cmml" xref="S2.E7.m1.4.4.1.1.4.2.3">𝜃</ci></apply><ci id="S2.E7.m1.1.1.cmml" xref="S2.E7.m1.1.1">𝑥</ci></apply><apply id="S2.E7.m1.4.4.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.2"><plus id="S2.E7.m1.4.4.1.1.2.3.cmml" xref="S2.E7.m1.4.4.1.1.2.3"></plus><apply id="S2.E7.m1.4.4.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1"><times id="S2.E7.m1.4.4.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.1.1.2"></times><ci id="S2.E7.m1.4.4.1.1.1.1.3.cmml" xref="S2.E7.m1.4.4.1.1.1.1.3">𝔼</ci><apply id="S2.E7.m1.4.4.1.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.1.1.1.2.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E7.m1.4.4.1.1.1.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.1.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.2">conditional</csymbol><apply id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1"><times id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.2"></times><ci id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.3">𝕍</ci><apply id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.2"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.1.1.cmml" xref="S2.E7.m1.4.4.1.1.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E7.m1.2.2.cmml" xref="S2.E7.m1.2.2">𝑥</ci></apply></apply></apply></apply><apply id="S2.E7.m1.4.4.1.1.2.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2"><times id="S2.E7.m1.4.4.1.1.2.2.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2.2"></times><ci id="S2.E7.m1.4.4.1.1.2.2.3.cmml" xref="S2.E7.m1.4.4.1.1.2.2.3">𝕍</ci><apply id="S2.E7.m1.4.4.1.1.2.2.1.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.2.2.1.2.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.2">delimited-[]</csymbol><apply id="S2.E7.m1.4.4.1.1.2.2.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.2.2.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.2">conditional</csymbol><apply id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1"><times id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.2"></times><ci id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.3.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.3">𝔼</ci><apply id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.2.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.3.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.2"><csymbol cd="latexml" id="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.1.1.cmml" xref="S2.E7.m1.4.4.1.1.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S2.E7.m1.3.3.cmml" xref="S2.E7.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E7.m1.4c">\mathrm{cov}_{\theta}(x)=\mathbb{E}[\mathbb{V}[Y_{1}|X]|[x]]+\mathbb{V}[% \mathbb{E}[Y_{1}|X]|[x]]\;.</annotation><annotation encoding="application/x-llamapun" id="S2.E7.m1.4d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = blackboard_E [ blackboard_V [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] + blackboard_V [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(7)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_para" id="S2.SS3.p6"> <p class="ltx_p" id="S2.SS3.p6.2">Thus, a model trained to predict pairs trained on couples <math alttext="(x,y)" class="ltx_Math" display="inline" id="S2.SS3.p6.1.m1.2"><semantics id="S2.SS3.p6.1.m1.2a"><mrow id="S2.SS3.p6.1.m1.2.3.2" xref="S2.SS3.p6.1.m1.2.3.1.cmml"><mo id="S2.SS3.p6.1.m1.2.3.2.1" stretchy="false" xref="S2.SS3.p6.1.m1.2.3.1.cmml">(</mo><mi id="S2.SS3.p6.1.m1.1.1" xref="S2.SS3.p6.1.m1.1.1.cmml">x</mi><mo id="S2.SS3.p6.1.m1.2.3.2.2" xref="S2.SS3.p6.1.m1.2.3.1.cmml">,</mo><mi id="S2.SS3.p6.1.m1.2.2" xref="S2.SS3.p6.1.m1.2.2.cmml">y</mi><mo id="S2.SS3.p6.1.m1.2.3.2.3" stretchy="false" xref="S2.SS3.p6.1.m1.2.3.1.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p6.1.m1.2b"><interval closure="open" id="S2.SS3.p6.1.m1.2.3.1.cmml" xref="S2.SS3.p6.1.m1.2.3.2"><ci id="S2.SS3.p6.1.m1.1.1.cmml" xref="S2.SS3.p6.1.m1.1.1">𝑥</ci><ci id="S2.SS3.p6.1.m1.2.2.cmml" xref="S2.SS3.p6.1.m1.2.2">𝑦</ci></interval></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p6.1.m1.2c">(x,y)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p6.1.m1.2d">( italic_x , italic_y )</annotation></semantics></math> of data instead of triplets <math alttext="(x,y_{1},y_{2})" class="ltx_Math" display="inline" id="S2.SS3.p6.2.m2.3"><semantics id="S2.SS3.p6.2.m2.3a"><mrow id="S2.SS3.p6.2.m2.3.3.2" xref="S2.SS3.p6.2.m2.3.3.3.cmml"><mo id="S2.SS3.p6.2.m2.3.3.2.3" stretchy="false" xref="S2.SS3.p6.2.m2.3.3.3.cmml">(</mo><mi id="S2.SS3.p6.2.m2.1.1" xref="S2.SS3.p6.2.m2.1.1.cmml">x</mi><mo id="S2.SS3.p6.2.m2.3.3.2.4" xref="S2.SS3.p6.2.m2.3.3.3.cmml">,</mo><msub id="S2.SS3.p6.2.m2.2.2.1.1" xref="S2.SS3.p6.2.m2.2.2.1.1.cmml"><mi id="S2.SS3.p6.2.m2.2.2.1.1.2" xref="S2.SS3.p6.2.m2.2.2.1.1.2.cmml">y</mi><mn id="S2.SS3.p6.2.m2.2.2.1.1.3" xref="S2.SS3.p6.2.m2.2.2.1.1.3.cmml">1</mn></msub><mo id="S2.SS3.p6.2.m2.3.3.2.5" xref="S2.SS3.p6.2.m2.3.3.3.cmml">,</mo><msub id="S2.SS3.p6.2.m2.3.3.2.2" xref="S2.SS3.p6.2.m2.3.3.2.2.cmml"><mi id="S2.SS3.p6.2.m2.3.3.2.2.2" xref="S2.SS3.p6.2.m2.3.3.2.2.2.cmml">y</mi><mn id="S2.SS3.p6.2.m2.3.3.2.2.3" xref="S2.SS3.p6.2.m2.3.3.2.2.3.cmml">2</mn></msub><mo id="S2.SS3.p6.2.m2.3.3.2.6" stretchy="false" xref="S2.SS3.p6.2.m2.3.3.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p6.2.m2.3b"><vector id="S2.SS3.p6.2.m2.3.3.3.cmml" xref="S2.SS3.p6.2.m2.3.3.2"><ci id="S2.SS3.p6.2.m2.1.1.cmml" xref="S2.SS3.p6.2.m2.1.1">𝑥</ci><apply id="S2.SS3.p6.2.m2.2.2.1.1.cmml" xref="S2.SS3.p6.2.m2.2.2.1.1"><csymbol cd="ambiguous" id="S2.SS3.p6.2.m2.2.2.1.1.1.cmml" xref="S2.SS3.p6.2.m2.2.2.1.1">subscript</csymbol><ci id="S2.SS3.p6.2.m2.2.2.1.1.2.cmml" xref="S2.SS3.p6.2.m2.2.2.1.1.2">𝑦</ci><cn id="S2.SS3.p6.2.m2.2.2.1.1.3.cmml" type="integer" xref="S2.SS3.p6.2.m2.2.2.1.1.3">1</cn></apply><apply id="S2.SS3.p6.2.m2.3.3.2.2.cmml" xref="S2.SS3.p6.2.m2.3.3.2.2"><csymbol cd="ambiguous" id="S2.SS3.p6.2.m2.3.3.2.2.1.cmml" xref="S2.SS3.p6.2.m2.3.3.2.2">subscript</csymbol><ci id="S2.SS3.p6.2.m2.3.3.2.2.2.cmml" xref="S2.SS3.p6.2.m2.3.3.2.2.2">𝑦</ci><cn id="S2.SS3.p6.2.m2.3.3.2.2.3.cmml" type="integer" xref="S2.SS3.p6.2.m2.3.3.2.2.3">2</cn></apply></vector></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p6.2.m2.3c">(x,y_{1},y_{2})</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p6.2.m2.3d">( italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT )</annotation></semantics></math> can only estimate the total uncertainty, but not separate the aleatoric from the epistemic. This confirms the impossibility to train a model to report its epistemic uncertainty without making any sort of hypothesis on the data generating distribution.</p> </div> <div class="ltx_para" id="S2.SS3.p7"> <p class="ltx_p" id="S2.SS3.p7.1">Computing the model covariance is straightforward. First note that the joint distribution can be written as:</p> <table class="ltx_equation ltx_eqn_table" id="S2.E8"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="p_{\theta}(y_{1},y_{2}|x)=p_{\theta}(y_{2}|y_{1},x)\cdot p_{\theta}(y_{1}|x)\;," class="ltx_Math" display="block" id="S2.E8.m1.2"><semantics id="S2.E8.m1.2a"><mrow id="S2.E8.m1.2.2.1" xref="S2.E8.m1.2.2.1.1.cmml"><mrow id="S2.E8.m1.2.2.1.1" xref="S2.E8.m1.2.2.1.1.cmml"><mrow id="S2.E8.m1.2.2.1.1.2" xref="S2.E8.m1.2.2.1.1.2.cmml"><msub id="S2.E8.m1.2.2.1.1.2.4" xref="S2.E8.m1.2.2.1.1.2.4.cmml"><mi id="S2.E8.m1.2.2.1.1.2.4.2" xref="S2.E8.m1.2.2.1.1.2.4.2.cmml">p</mi><mi id="S2.E8.m1.2.2.1.1.2.4.3" xref="S2.E8.m1.2.2.1.1.2.4.3.cmml">θ</mi></msub><mo id="S2.E8.m1.2.2.1.1.2.3" xref="S2.E8.m1.2.2.1.1.2.3.cmml">⁢</mo><mrow id="S2.E8.m1.2.2.1.1.2.2.2" xref="S2.E8.m1.2.2.1.1.2.2.3.cmml"><mo id="S2.E8.m1.2.2.1.1.2.2.2.3" stretchy="false" xref="S2.E8.m1.2.2.1.1.2.2.3.cmml">(</mo><msub id="S2.E8.m1.2.2.1.1.1.1.1.1" xref="S2.E8.m1.2.2.1.1.1.1.1.1.cmml"><mi id="S2.E8.m1.2.2.1.1.1.1.1.1.2" xref="S2.E8.m1.2.2.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.E8.m1.2.2.1.1.1.1.1.1.3" xref="S2.E8.m1.2.2.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E8.m1.2.2.1.1.2.2.2.4" xref="S2.E8.m1.2.2.1.1.2.2.3.cmml">,</mo><mrow id="S2.E8.m1.2.2.1.1.2.2.2.2" xref="S2.E8.m1.2.2.1.1.2.2.2.2.cmml"><msub id="S2.E8.m1.2.2.1.1.2.2.2.2.2" xref="S2.E8.m1.2.2.1.1.2.2.2.2.2.cmml"><mi id="S2.E8.m1.2.2.1.1.2.2.2.2.2.2" xref="S2.E8.m1.2.2.1.1.2.2.2.2.2.2.cmml">y</mi><mn id="S2.E8.m1.2.2.1.1.2.2.2.2.2.3" xref="S2.E8.m1.2.2.1.1.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.E8.m1.2.2.1.1.2.2.2.2.1" xref="S2.E8.m1.2.2.1.1.2.2.2.2.1.cmml">|</mo><mi id="S2.E8.m1.2.2.1.1.2.2.2.2.3" xref="S2.E8.m1.2.2.1.1.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.E8.m1.2.2.1.1.2.2.2.5" stretchy="false" xref="S2.E8.m1.2.2.1.1.2.2.3.cmml">)</mo></mrow></mrow><mo id="S2.E8.m1.2.2.1.1.5" xref="S2.E8.m1.2.2.1.1.5.cmml">=</mo><mrow id="S2.E8.m1.2.2.1.1.4" xref="S2.E8.m1.2.2.1.1.4.cmml"><mrow id="S2.E8.m1.2.2.1.1.3.1" xref="S2.E8.m1.2.2.1.1.3.1.cmml"><mrow id="S2.E8.m1.2.2.1.1.3.1.1" xref="S2.E8.m1.2.2.1.1.3.1.1.cmml"><msub id="S2.E8.m1.2.2.1.1.3.1.1.3" xref="S2.E8.m1.2.2.1.1.3.1.1.3.cmml"><mi id="S2.E8.m1.2.2.1.1.3.1.1.3.2" xref="S2.E8.m1.2.2.1.1.3.1.1.3.2.cmml">p</mi><mi id="S2.E8.m1.2.2.1.1.3.1.1.3.3" xref="S2.E8.m1.2.2.1.1.3.1.1.3.3.cmml">θ</mi></msub><mo id="S2.E8.m1.2.2.1.1.3.1.1.2" xref="S2.E8.m1.2.2.1.1.3.1.1.2.cmml">⁢</mo><mrow id="S2.E8.m1.2.2.1.1.3.1.1.1.1" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.cmml"><mo id="S2.E8.m1.2.2.1.1.3.1.1.1.1.2" stretchy="false" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.cmml">(</mo><mrow id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.cmml"><msub id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.cmml"><mi id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.2" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.2.cmml">y</mi><mn id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.3" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.2" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.2.cmml">|</mo><mrow id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.2.cmml"><msub id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.cmml"><mi id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.2" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.3" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.2" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.2.cmml">,</mo><mi id="S2.E8.m1.1.1" xref="S2.E8.m1.1.1.cmml">x</mi></mrow></mrow><mo id="S2.E8.m1.2.2.1.1.3.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.E8.m1.2.2.1.1.3.1.2" rspace="0.222em" xref="S2.E8.m1.2.2.1.1.3.1.2.cmml">⋅</mo><msub id="S2.E8.m1.2.2.1.1.3.1.3" xref="S2.E8.m1.2.2.1.1.3.1.3.cmml"><mi id="S2.E8.m1.2.2.1.1.3.1.3.2" xref="S2.E8.m1.2.2.1.1.3.1.3.2.cmml">p</mi><mi id="S2.E8.m1.2.2.1.1.3.1.3.3" xref="S2.E8.m1.2.2.1.1.3.1.3.3.cmml">θ</mi></msub></mrow><mo id="S2.E8.m1.2.2.1.1.4.3" xref="S2.E8.m1.2.2.1.1.4.3.cmml">⁢</mo><mrow id="S2.E8.m1.2.2.1.1.4.2.1" xref="S2.E8.m1.2.2.1.1.4.2.1.1.cmml"><mo id="S2.E8.m1.2.2.1.1.4.2.1.2" stretchy="false" xref="S2.E8.m1.2.2.1.1.4.2.1.1.cmml">(</mo><mrow id="S2.E8.m1.2.2.1.1.4.2.1.1" xref="S2.E8.m1.2.2.1.1.4.2.1.1.cmml"><msub id="S2.E8.m1.2.2.1.1.4.2.1.1.2" xref="S2.E8.m1.2.2.1.1.4.2.1.1.2.cmml"><mi id="S2.E8.m1.2.2.1.1.4.2.1.1.2.2" xref="S2.E8.m1.2.2.1.1.4.2.1.1.2.2.cmml">y</mi><mn id="S2.E8.m1.2.2.1.1.4.2.1.1.2.3" xref="S2.E8.m1.2.2.1.1.4.2.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.E8.m1.2.2.1.1.4.2.1.1.1" xref="S2.E8.m1.2.2.1.1.4.2.1.1.1.cmml">|</mo><mi id="S2.E8.m1.2.2.1.1.4.2.1.1.3" xref="S2.E8.m1.2.2.1.1.4.2.1.1.3.cmml">x</mi></mrow><mo id="S2.E8.m1.2.2.1.1.4.2.1.3" rspace="0.280em" stretchy="false" xref="S2.E8.m1.2.2.1.1.4.2.1.1.cmml">)</mo></mrow></mrow></mrow><mo id="S2.E8.m1.2.2.1.2" xref="S2.E8.m1.2.2.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E8.m1.2b"><apply id="S2.E8.m1.2.2.1.1.cmml" xref="S2.E8.m1.2.2.1"><eq id="S2.E8.m1.2.2.1.1.5.cmml" xref="S2.E8.m1.2.2.1.1.5"></eq><apply id="S2.E8.m1.2.2.1.1.2.cmml" xref="S2.E8.m1.2.2.1.1.2"><times id="S2.E8.m1.2.2.1.1.2.3.cmml" xref="S2.E8.m1.2.2.1.1.2.3"></times><apply id="S2.E8.m1.2.2.1.1.2.4.cmml" xref="S2.E8.m1.2.2.1.1.2.4"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.2.4.1.cmml" xref="S2.E8.m1.2.2.1.1.2.4">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.2.4.2.cmml" xref="S2.E8.m1.2.2.1.1.2.4.2">𝑝</ci><ci id="S2.E8.m1.2.2.1.1.2.4.3.cmml" xref="S2.E8.m1.2.2.1.1.2.4.3">𝜃</ci></apply><interval closure="open" id="S2.E8.m1.2.2.1.1.2.2.3.cmml" xref="S2.E8.m1.2.2.1.1.2.2.2"><apply id="S2.E8.m1.2.2.1.1.1.1.1.1.cmml" xref="S2.E8.m1.2.2.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.1.1.1.1.1.cmml" xref="S2.E8.m1.2.2.1.1.1.1.1.1">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.1.1.1.1.2.cmml" xref="S2.E8.m1.2.2.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.E8.m1.2.2.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.E8.m1.2.2.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.E8.m1.2.2.1.1.2.2.2.2.cmml" xref="S2.E8.m1.2.2.1.1.2.2.2.2"><csymbol cd="latexml" id="S2.E8.m1.2.2.1.1.2.2.2.2.1.cmml" xref="S2.E8.m1.2.2.1.1.2.2.2.2.1">conditional</csymbol><apply id="S2.E8.m1.2.2.1.1.2.2.2.2.2.cmml" xref="S2.E8.m1.2.2.1.1.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.2.2.2.2.2.1.cmml" xref="S2.E8.m1.2.2.1.1.2.2.2.2.2">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.2.2.2.2.2.2.cmml" xref="S2.E8.m1.2.2.1.1.2.2.2.2.2.2">𝑦</ci><cn id="S2.E8.m1.2.2.1.1.2.2.2.2.2.3.cmml" type="integer" xref="S2.E8.m1.2.2.1.1.2.2.2.2.2.3">2</cn></apply><ci id="S2.E8.m1.2.2.1.1.2.2.2.2.3.cmml" xref="S2.E8.m1.2.2.1.1.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="S2.E8.m1.2.2.1.1.4.cmml" xref="S2.E8.m1.2.2.1.1.4"><times id="S2.E8.m1.2.2.1.1.4.3.cmml" xref="S2.E8.m1.2.2.1.1.4.3"></times><apply id="S2.E8.m1.2.2.1.1.3.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1"><ci id="S2.E8.m1.2.2.1.1.3.1.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.2">⋅</ci><apply id="S2.E8.m1.2.2.1.1.3.1.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1"><times id="S2.E8.m1.2.2.1.1.3.1.1.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.2"></times><apply id="S2.E8.m1.2.2.1.1.3.1.1.3.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.3"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.3.1.1.3.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.3">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.3.1.1.3.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.3.2">𝑝</ci><ci id="S2.E8.m1.2.2.1.1.3.1.1.3.3.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.3.3">𝜃</ci></apply><apply id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1"><csymbol cd="latexml" id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.2">conditional</csymbol><apply id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.2">𝑦</ci><cn id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.3.cmml" type="integer" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.3.3">2</cn></apply><list id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1"><apply id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.E8.m1.2.2.1.1.3.1.1.1.1.1.1.1.1.3">1</cn></apply><ci id="S2.E8.m1.1.1.cmml" xref="S2.E8.m1.1.1">𝑥</ci></list></apply></apply><apply id="S2.E8.m1.2.2.1.1.3.1.3.cmml" xref="S2.E8.m1.2.2.1.1.3.1.3"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.3.1.3.1.cmml" xref="S2.E8.m1.2.2.1.1.3.1.3">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.3.1.3.2.cmml" xref="S2.E8.m1.2.2.1.1.3.1.3.2">𝑝</ci><ci id="S2.E8.m1.2.2.1.1.3.1.3.3.cmml" xref="S2.E8.m1.2.2.1.1.3.1.3.3">𝜃</ci></apply></apply><apply id="S2.E8.m1.2.2.1.1.4.2.1.1.cmml" xref="S2.E8.m1.2.2.1.1.4.2.1"><csymbol cd="latexml" id="S2.E8.m1.2.2.1.1.4.2.1.1.1.cmml" xref="S2.E8.m1.2.2.1.1.4.2.1.1.1">conditional</csymbol><apply id="S2.E8.m1.2.2.1.1.4.2.1.1.2.cmml" xref="S2.E8.m1.2.2.1.1.4.2.1.1.2"><csymbol cd="ambiguous" id="S2.E8.m1.2.2.1.1.4.2.1.1.2.1.cmml" xref="S2.E8.m1.2.2.1.1.4.2.1.1.2">subscript</csymbol><ci id="S2.E8.m1.2.2.1.1.4.2.1.1.2.2.cmml" xref="S2.E8.m1.2.2.1.1.4.2.1.1.2.2">𝑦</ci><cn id="S2.E8.m1.2.2.1.1.4.2.1.1.2.3.cmml" type="integer" xref="S2.E8.m1.2.2.1.1.4.2.1.1.2.3">1</cn></apply><ci id="S2.E8.m1.2.2.1.1.4.2.1.1.3.cmml" xref="S2.E8.m1.2.2.1.1.4.2.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E8.m1.2c">p_{\theta}(y_{1},y_{2}|x)=p_{\theta}(y_{2}|y_{1},x)\cdot p_{\theta}(y_{1}|x)\;,</annotation><annotation encoding="application/x-llamapun" id="S2.E8.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) = italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_x ) ⋅ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(8)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S2.SS3.p7.2">where the first term on the right-hand-side can be computed by feeding back its own answers to the model. It can be shown that:</p> </div> <div class="ltx_para" id="S2.SS3.p8"> <table class="ltx_equation ltx_eqn_table" id="S2.E9"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathrm{cov}_{\theta}(x)\!\simeq\!\frac{1}{M}\sum_{m=1}^{M}y_{m}\mu_{\theta}(x% |y_{m})-\mu_{\theta}^{2}(x),\;y_{m}\sim p_{\theta}(y|x)\;." class="ltx_Math" display="block" id="S2.E9.m1.3"><semantics id="S2.E9.m1.3a"><mrow id="S2.E9.m1.3.3.1"><mrow id="S2.E9.m1.3.3.1.1.2" xref="S2.E9.m1.3.3.1.1.3.cmml"><mrow id="S2.E9.m1.3.3.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.cmml"><mrow id="S2.E9.m1.3.3.1.1.1.1.3" xref="S2.E9.m1.3.3.1.1.1.1.3.cmml"><msub id="S2.E9.m1.3.3.1.1.1.1.3.2" xref="S2.E9.m1.3.3.1.1.1.1.3.2.cmml"><mi id="S2.E9.m1.3.3.1.1.1.1.3.2.2" xref="S2.E9.m1.3.3.1.1.1.1.3.2.2.cmml">cov</mi><mi id="S2.E9.m1.3.3.1.1.1.1.3.2.3" xref="S2.E9.m1.3.3.1.1.1.1.3.2.3.cmml">θ</mi></msub><mo id="S2.E9.m1.3.3.1.1.1.1.3.1" xref="S2.E9.m1.3.3.1.1.1.1.3.1.cmml">⁢</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.3.3.2" xref="S2.E9.m1.3.3.1.1.1.1.3.cmml"><mo id="S2.E9.m1.3.3.1.1.1.1.3.3.2.1" stretchy="false" xref="S2.E9.m1.3.3.1.1.1.1.3.cmml">(</mo><mi id="S2.E9.m1.1.1" xref="S2.E9.m1.1.1.cmml">x</mi><mo id="S2.E9.m1.3.3.1.1.1.1.3.3.2.2" stretchy="false" xref="S2.E9.m1.3.3.1.1.1.1.3.cmml">)</mo></mrow></mrow><mo id="S2.E9.m1.3.3.1.1.1.1.2" lspace="0.108em" rspace="0.108em" xref="S2.E9.m1.3.3.1.1.1.1.2.cmml">≃</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.1.cmml"><mrow id="S2.E9.m1.3.3.1.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.1.1.cmml"><mfrac id="S2.E9.m1.3.3.1.1.1.1.1.1.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.3.cmml"><mn id="S2.E9.m1.3.3.1.1.1.1.1.1.3.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.3.2.cmml">1</mn><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.3.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.3.3.cmml">M</mi></mfrac><mo id="S2.E9.m1.3.3.1.1.1.1.1.1.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.cmml"><munderover id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.2" movablelimits="false" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.2.cmml">∑</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.cmml"><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.2.cmml">m</mi><mo id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.1" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.1.cmml">=</mo><mn id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.3.cmml">1</mn></mrow><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.3.cmml">M</mi></munderover><mrow id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.cmml"><msub id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.cmml"><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.2.cmml">y</mi><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.3.cmml">m</mi></msub><mo id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.2.cmml">⁢</mo><msub id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.cmml"><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.2.cmml">μ</mi><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.3.cmml">θ</mi></msub><mo id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.2a" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.cmml"><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2.cmml">x</mi><mo fence="false" id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><msub id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.2" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.2.cmml">y</mi><mi id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.3" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.3.cmml">m</mi></msub></mrow><mo id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S2.E9.m1.3.3.1.1.1.1.1.2" xref="S2.E9.m1.3.3.1.1.1.1.1.2.cmml">−</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.1.3" xref="S2.E9.m1.3.3.1.1.1.1.1.3.cmml"><msubsup id="S2.E9.m1.3.3.1.1.1.1.1.3.2" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2.cmml"><mi id="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.2" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.2.cmml">μ</mi><mi id="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.3" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.3.cmml">θ</mi><mn id="S2.E9.m1.3.3.1.1.1.1.1.3.2.3" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2.3.cmml">2</mn></msubsup><mo id="S2.E9.m1.3.3.1.1.1.1.1.3.1" xref="S2.E9.m1.3.3.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="S2.E9.m1.3.3.1.1.1.1.1.3.3.2" xref="S2.E9.m1.3.3.1.1.1.1.1.3.cmml"><mo id="S2.E9.m1.3.3.1.1.1.1.1.3.3.2.1" stretchy="false" xref="S2.E9.m1.3.3.1.1.1.1.1.3.cmml">(</mo><mi id="S2.E9.m1.2.2" xref="S2.E9.m1.2.2.cmml">x</mi><mo id="S2.E9.m1.3.3.1.1.1.1.1.3.3.2.2" stretchy="false" xref="S2.E9.m1.3.3.1.1.1.1.1.3.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S2.E9.m1.3.3.1.1.2.3" rspace="0.447em" xref="S2.E9.m1.3.3.1.1.3a.cmml">,</mo><mrow id="S2.E9.m1.3.3.1.1.2.2" xref="S2.E9.m1.3.3.1.1.2.2.cmml"><msub id="S2.E9.m1.3.3.1.1.2.2.3" xref="S2.E9.m1.3.3.1.1.2.2.3.cmml"><mi id="S2.E9.m1.3.3.1.1.2.2.3.2" xref="S2.E9.m1.3.3.1.1.2.2.3.2.cmml">y</mi><mi id="S2.E9.m1.3.3.1.1.2.2.3.3" xref="S2.E9.m1.3.3.1.1.2.2.3.3.cmml">m</mi></msub><mo id="S2.E9.m1.3.3.1.1.2.2.2" xref="S2.E9.m1.3.3.1.1.2.2.2.cmml">∼</mo><mrow id="S2.E9.m1.3.3.1.1.2.2.1" xref="S2.E9.m1.3.3.1.1.2.2.1.cmml"><msub id="S2.E9.m1.3.3.1.1.2.2.1.3" xref="S2.E9.m1.3.3.1.1.2.2.1.3.cmml"><mi id="S2.E9.m1.3.3.1.1.2.2.1.3.2" xref="S2.E9.m1.3.3.1.1.2.2.1.3.2.cmml">p</mi><mi id="S2.E9.m1.3.3.1.1.2.2.1.3.3" xref="S2.E9.m1.3.3.1.1.2.2.1.3.3.cmml">θ</mi></msub><mo id="S2.E9.m1.3.3.1.1.2.2.1.2" xref="S2.E9.m1.3.3.1.1.2.2.1.2.cmml">⁢</mo><mrow id="S2.E9.m1.3.3.1.1.2.2.1.1.1" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.cmml"><mo id="S2.E9.m1.3.3.1.1.2.2.1.1.1.2" stretchy="false" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.cmml">(</mo><mrow id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.cmml"><mi id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.2" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.1" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.1.cmml">|</mo><mi id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.3" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.E9.m1.3.3.1.1.2.2.1.1.1.3" stretchy="false" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S2.E9.m1.3.3.1.2">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E9.m1.3b"><apply id="S2.E9.m1.3.3.1.1.3.cmml" xref="S2.E9.m1.3.3.1.1.2"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.3a.cmml" xref="S2.E9.m1.3.3.1.1.2.3">formulae-sequence</csymbol><apply id="S2.E9.m1.3.3.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="S2.E9.m1.3.3.1.1.1.1.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.2">similar-to-or-equals</csymbol><apply id="S2.E9.m1.3.3.1.1.1.1.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.3"><times id="S2.E9.m1.3.3.1.1.1.1.3.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.3.1"></times><apply id="S2.E9.m1.3.3.1.1.1.1.3.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.3.2"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.3.2.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.3.2">subscript</csymbol><ci id="S2.E9.m1.3.3.1.1.1.1.3.2.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.3.2.2">cov</ci><ci id="S2.E9.m1.3.3.1.1.1.1.3.2.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.3.2.3">𝜃</ci></apply><ci id="S2.E9.m1.1.1.cmml" xref="S2.E9.m1.1.1">𝑥</ci></apply><apply id="S2.E9.m1.3.3.1.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1"><minus id="S2.E9.m1.3.3.1.1.1.1.1.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.2"></minus><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1"><times id="S2.E9.m1.3.3.1.1.1.1.1.1.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.2"></times><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.3"><divide id="S2.E9.m1.3.3.1.1.1.1.1.1.3.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.3"></divide><cn id="S2.E9.m1.3.3.1.1.1.1.1.1.3.2.cmml" type="integer" xref="S2.E9.m1.3.3.1.1.1.1.1.1.3.2">1</cn><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.3.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.3.3">𝑀</ci></apply><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1"><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2">superscript</csymbol><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2">subscript</csymbol><sum id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.2"></sum><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3"><eq id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.1"></eq><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.2">𝑚</ci><cn id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.3.cmml" type="integer" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.2.3.3">1</cn></apply></apply><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.2.3">𝑀</ci></apply><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1"><times id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.2"></times><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.2">𝑦</ci><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.3.3">𝑚</ci></apply><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4">subscript</csymbol><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.2">𝜇</ci><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.4.3">𝜃</ci></apply><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2">𝑥</ci><apply id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.2">𝑦</ci><ci id="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3.3">𝑚</ci></apply></apply></apply></apply></apply><apply id="S2.E9.m1.3.3.1.1.1.1.1.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3"><times id="S2.E9.m1.3.3.1.1.1.1.1.3.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3.1"></times><apply id="S2.E9.m1.3.3.1.1.1.1.1.3.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.1.3.2.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2">superscript</csymbol><apply id="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.1.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2">subscript</csymbol><ci id="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.2.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.2">𝜇</ci><ci id="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.3.cmml" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2.2.3">𝜃</ci></apply><cn id="S2.E9.m1.3.3.1.1.1.1.1.3.2.3.cmml" type="integer" xref="S2.E9.m1.3.3.1.1.1.1.1.3.2.3">2</cn></apply><ci id="S2.E9.m1.2.2.cmml" xref="S2.E9.m1.2.2">𝑥</ci></apply></apply></apply><apply id="S2.E9.m1.3.3.1.1.2.2.cmml" xref="S2.E9.m1.3.3.1.1.2.2"><csymbol cd="latexml" id="S2.E9.m1.3.3.1.1.2.2.2.cmml" xref="S2.E9.m1.3.3.1.1.2.2.2">similar-to</csymbol><apply id="S2.E9.m1.3.3.1.1.2.2.3.cmml" xref="S2.E9.m1.3.3.1.1.2.2.3"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.2.2.3.1.cmml" xref="S2.E9.m1.3.3.1.1.2.2.3">subscript</csymbol><ci id="S2.E9.m1.3.3.1.1.2.2.3.2.cmml" xref="S2.E9.m1.3.3.1.1.2.2.3.2">𝑦</ci><ci id="S2.E9.m1.3.3.1.1.2.2.3.3.cmml" xref="S2.E9.m1.3.3.1.1.2.2.3.3">𝑚</ci></apply><apply id="S2.E9.m1.3.3.1.1.2.2.1.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1"><times id="S2.E9.m1.3.3.1.1.2.2.1.2.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.2"></times><apply id="S2.E9.m1.3.3.1.1.2.2.1.3.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.3"><csymbol cd="ambiguous" id="S2.E9.m1.3.3.1.1.2.2.1.3.1.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.3">subscript</csymbol><ci id="S2.E9.m1.3.3.1.1.2.2.1.3.2.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.3.2">𝑝</ci><ci id="S2.E9.m1.3.3.1.1.2.2.1.3.3.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.3.3">𝜃</ci></apply><apply id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1"><csymbol cd="latexml" id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.1.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.1">conditional</csymbol><ci id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.2.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.2">𝑦</ci><ci id="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.3.cmml" xref="S2.E9.m1.3.3.1.1.2.2.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E9.m1.3c">\mathrm{cov}_{\theta}(x)\!\simeq\!\frac{1}{M}\sum_{m=1}^{M}y_{m}\mu_{\theta}(x% |y_{m})-\mu_{\theta}^{2}(x),\;y_{m}\sim p_{\theta}(y|x)\;.</annotation><annotation encoding="application/x-llamapun" id="S2.E9.m1.3d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ≃ divide start_ARG 1 end_ARG start_ARG italic_M end_ARG ∑ start_POSTSUBSCRIPT italic_m = 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT italic_M end_POSTSUPERSCRIPT italic_y start_POSTSUBSCRIPT italic_m end_POSTSUBSCRIPT italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x | italic_y start_POSTSUBSCRIPT italic_m end_POSTSUBSCRIPT ) - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) , italic_y start_POSTSUBSCRIPT italic_m end_POSTSUBSCRIPT ∼ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(9)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S2.SS3.p8.4">where, since the sum is a Monte Carlo approximation of an integral, the equality is asymptotically exact for <math alttext="M\to\infty" class="ltx_Math" display="inline" id="S2.SS3.p8.1.m1.1"><semantics id="S2.SS3.p8.1.m1.1a"><mrow id="S2.SS3.p8.1.m1.1.1" xref="S2.SS3.p8.1.m1.1.1.cmml"><mi id="S2.SS3.p8.1.m1.1.1.2" xref="S2.SS3.p8.1.m1.1.1.2.cmml">M</mi><mo id="S2.SS3.p8.1.m1.1.1.1" stretchy="false" xref="S2.SS3.p8.1.m1.1.1.1.cmml">→</mo><mi id="S2.SS3.p8.1.m1.1.1.3" mathvariant="normal" xref="S2.SS3.p8.1.m1.1.1.3.cmml">∞</mi></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p8.1.m1.1b"><apply id="S2.SS3.p8.1.m1.1.1.cmml" xref="S2.SS3.p8.1.m1.1.1"><ci id="S2.SS3.p8.1.m1.1.1.1.cmml" xref="S2.SS3.p8.1.m1.1.1.1">→</ci><ci id="S2.SS3.p8.1.m1.1.1.2.cmml" xref="S2.SS3.p8.1.m1.1.1.2">𝑀</ci><infinity id="S2.SS3.p8.1.m1.1.1.3.cmml" xref="S2.SS3.p8.1.m1.1.1.3"></infinity></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p8.1.m1.1c">M\to\infty</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p8.1.m1.1d">italic_M → ∞</annotation></semantics></math>. Thus, if <math alttext="p_{\theta}(y_{2}|y_{1},x)=p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="S2.SS3.p8.2.m2.3"><semantics id="S2.SS3.p8.2.m2.3a"><mrow id="S2.SS3.p8.2.m2.3.3" xref="S2.SS3.p8.2.m2.3.3.cmml"><mrow id="S2.SS3.p8.2.m2.2.2.1" xref="S2.SS3.p8.2.m2.2.2.1.cmml"><msub id="S2.SS3.p8.2.m2.2.2.1.3" xref="S2.SS3.p8.2.m2.2.2.1.3.cmml"><mi id="S2.SS3.p8.2.m2.2.2.1.3.2" xref="S2.SS3.p8.2.m2.2.2.1.3.2.cmml">p</mi><mi id="S2.SS3.p8.2.m2.2.2.1.3.3" xref="S2.SS3.p8.2.m2.2.2.1.3.3.cmml">θ</mi></msub><mo id="S2.SS3.p8.2.m2.2.2.1.2" xref="S2.SS3.p8.2.m2.2.2.1.2.cmml">⁢</mo><mrow id="S2.SS3.p8.2.m2.2.2.1.1.1" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.cmml"><mo id="S2.SS3.p8.2.m2.2.2.1.1.1.2" stretchy="false" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.cmml">(</mo><mrow id="S2.SS3.p8.2.m2.2.2.1.1.1.1" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.cmml"><msub id="S2.SS3.p8.2.m2.2.2.1.1.1.1.3" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.cmml"><mi id="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.2" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.2.cmml">y</mi><mn id="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.3" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="S2.SS3.p8.2.m2.2.2.1.1.1.1.2" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.2.cmml">|</mo><mrow id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.2.cmml"><msub id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.cmml"><mi id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.2" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.3" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.2" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.2.cmml">,</mo><mi id="S2.SS3.p8.2.m2.1.1" xref="S2.SS3.p8.2.m2.1.1.cmml">x</mi></mrow></mrow><mo id="S2.SS3.p8.2.m2.2.2.1.1.1.3" stretchy="false" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.SS3.p8.2.m2.3.3.3" xref="S2.SS3.p8.2.m2.3.3.3.cmml">=</mo><mrow id="S2.SS3.p8.2.m2.3.3.2" xref="S2.SS3.p8.2.m2.3.3.2.cmml"><msub id="S2.SS3.p8.2.m2.3.3.2.3" xref="S2.SS3.p8.2.m2.3.3.2.3.cmml"><mi id="S2.SS3.p8.2.m2.3.3.2.3.2" xref="S2.SS3.p8.2.m2.3.3.2.3.2.cmml">p</mi><mi id="S2.SS3.p8.2.m2.3.3.2.3.3" xref="S2.SS3.p8.2.m2.3.3.2.3.3.cmml">θ</mi></msub><mo id="S2.SS3.p8.2.m2.3.3.2.2" xref="S2.SS3.p8.2.m2.3.3.2.2.cmml">⁢</mo><mrow id="S2.SS3.p8.2.m2.3.3.2.1.1" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.cmml"><mo id="S2.SS3.p8.2.m2.3.3.2.1.1.2" stretchy="false" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.cmml">(</mo><mrow id="S2.SS3.p8.2.m2.3.3.2.1.1.1" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.cmml"><msub id="S2.SS3.p8.2.m2.3.3.2.1.1.1.2" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.cmml"><mi id="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.2" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.2.cmml">y</mi><mn id="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.3" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.SS3.p8.2.m2.3.3.2.1.1.1.1" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.1.cmml">|</mo><mi id="S2.SS3.p8.2.m2.3.3.2.1.1.1.3" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS3.p8.2.m2.3.3.2.1.1.3" stretchy="false" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p8.2.m2.3b"><apply id="S2.SS3.p8.2.m2.3.3.cmml" xref="S2.SS3.p8.2.m2.3.3"><eq id="S2.SS3.p8.2.m2.3.3.3.cmml" xref="S2.SS3.p8.2.m2.3.3.3"></eq><apply id="S2.SS3.p8.2.m2.2.2.1.cmml" xref="S2.SS3.p8.2.m2.2.2.1"><times id="S2.SS3.p8.2.m2.2.2.1.2.cmml" xref="S2.SS3.p8.2.m2.2.2.1.2"></times><apply id="S2.SS3.p8.2.m2.2.2.1.3.cmml" xref="S2.SS3.p8.2.m2.2.2.1.3"><csymbol cd="ambiguous" id="S2.SS3.p8.2.m2.2.2.1.3.1.cmml" xref="S2.SS3.p8.2.m2.2.2.1.3">subscript</csymbol><ci id="S2.SS3.p8.2.m2.2.2.1.3.2.cmml" xref="S2.SS3.p8.2.m2.2.2.1.3.2">𝑝</ci><ci id="S2.SS3.p8.2.m2.2.2.1.3.3.cmml" xref="S2.SS3.p8.2.m2.2.2.1.3.3">𝜃</ci></apply><apply id="S2.SS3.p8.2.m2.2.2.1.1.1.1.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1"><csymbol cd="latexml" id="S2.SS3.p8.2.m2.2.2.1.1.1.1.2.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.2">conditional</csymbol><apply id="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.1.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.3">subscript</csymbol><ci id="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.2.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.2">𝑦</ci><cn id="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.3.cmml" type="integer" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.3.3">2</cn></apply><list id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.2.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1"><apply id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.1.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.2.cmml" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.SS3.p8.2.m2.2.2.1.1.1.1.1.1.1.3">1</cn></apply><ci id="S2.SS3.p8.2.m2.1.1.cmml" xref="S2.SS3.p8.2.m2.1.1">𝑥</ci></list></apply></apply><apply id="S2.SS3.p8.2.m2.3.3.2.cmml" xref="S2.SS3.p8.2.m2.3.3.2"><times id="S2.SS3.p8.2.m2.3.3.2.2.cmml" xref="S2.SS3.p8.2.m2.3.3.2.2"></times><apply id="S2.SS3.p8.2.m2.3.3.2.3.cmml" xref="S2.SS3.p8.2.m2.3.3.2.3"><csymbol cd="ambiguous" id="S2.SS3.p8.2.m2.3.3.2.3.1.cmml" xref="S2.SS3.p8.2.m2.3.3.2.3">subscript</csymbol><ci id="S2.SS3.p8.2.m2.3.3.2.3.2.cmml" xref="S2.SS3.p8.2.m2.3.3.2.3.2">𝑝</ci><ci id="S2.SS3.p8.2.m2.3.3.2.3.3.cmml" xref="S2.SS3.p8.2.m2.3.3.2.3.3">𝜃</ci></apply><apply id="S2.SS3.p8.2.m2.3.3.2.1.1.1.cmml" xref="S2.SS3.p8.2.m2.3.3.2.1.1"><csymbol cd="latexml" id="S2.SS3.p8.2.m2.3.3.2.1.1.1.1.cmml" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.1">conditional</csymbol><apply id="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.cmml" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.2"><csymbol cd="ambiguous" id="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.1.cmml" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.2">subscript</csymbol><ci id="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.2.cmml" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.2">𝑦</ci><cn id="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.3.cmml" type="integer" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.2.3">1</cn></apply><ci id="S2.SS3.p8.2.m2.3.3.2.1.1.1.3.cmml" xref="S2.SS3.p8.2.m2.3.3.2.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p8.2.m2.3c">p_{\theta}(y_{2}|y_{1},x)=p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p8.2.m2.3d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_x ) = italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math>, then the epistemic variance is zero. In contrast, if the model second-guesses its own answers, then <math alttext="p_{\theta}(y_{2}|y_{1},x)\neq p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="S2.SS3.p8.3.m3.3"><semantics id="S2.SS3.p8.3.m3.3a"><mrow id="S2.SS3.p8.3.m3.3.3" xref="S2.SS3.p8.3.m3.3.3.cmml"><mrow id="S2.SS3.p8.3.m3.2.2.1" xref="S2.SS3.p8.3.m3.2.2.1.cmml"><msub id="S2.SS3.p8.3.m3.2.2.1.3" xref="S2.SS3.p8.3.m3.2.2.1.3.cmml"><mi id="S2.SS3.p8.3.m3.2.2.1.3.2" xref="S2.SS3.p8.3.m3.2.2.1.3.2.cmml">p</mi><mi id="S2.SS3.p8.3.m3.2.2.1.3.3" xref="S2.SS3.p8.3.m3.2.2.1.3.3.cmml">θ</mi></msub><mo id="S2.SS3.p8.3.m3.2.2.1.2" xref="S2.SS3.p8.3.m3.2.2.1.2.cmml">⁢</mo><mrow id="S2.SS3.p8.3.m3.2.2.1.1.1" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.cmml"><mo id="S2.SS3.p8.3.m3.2.2.1.1.1.2" stretchy="false" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.cmml">(</mo><mrow id="S2.SS3.p8.3.m3.2.2.1.1.1.1" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.cmml"><msub id="S2.SS3.p8.3.m3.2.2.1.1.1.1.3" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.cmml"><mi id="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.2" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.2.cmml">y</mi><mn id="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.3" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="S2.SS3.p8.3.m3.2.2.1.1.1.1.2" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.2.cmml">|</mo><mrow id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.2.cmml"><msub id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.cmml"><mi id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.2" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.3" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.2" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.2.cmml">,</mo><mi id="S2.SS3.p8.3.m3.1.1" xref="S2.SS3.p8.3.m3.1.1.cmml">x</mi></mrow></mrow><mo id="S2.SS3.p8.3.m3.2.2.1.1.1.3" stretchy="false" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.SS3.p8.3.m3.3.3.3" xref="S2.SS3.p8.3.m3.3.3.3.cmml">≠</mo><mrow id="S2.SS3.p8.3.m3.3.3.2" xref="S2.SS3.p8.3.m3.3.3.2.cmml"><msub id="S2.SS3.p8.3.m3.3.3.2.3" xref="S2.SS3.p8.3.m3.3.3.2.3.cmml"><mi id="S2.SS3.p8.3.m3.3.3.2.3.2" xref="S2.SS3.p8.3.m3.3.3.2.3.2.cmml">p</mi><mi id="S2.SS3.p8.3.m3.3.3.2.3.3" xref="S2.SS3.p8.3.m3.3.3.2.3.3.cmml">θ</mi></msub><mo id="S2.SS3.p8.3.m3.3.3.2.2" xref="S2.SS3.p8.3.m3.3.3.2.2.cmml">⁢</mo><mrow id="S2.SS3.p8.3.m3.3.3.2.1.1" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.cmml"><mo id="S2.SS3.p8.3.m3.3.3.2.1.1.2" stretchy="false" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.cmml">(</mo><mrow id="S2.SS3.p8.3.m3.3.3.2.1.1.1" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.cmml"><msub id="S2.SS3.p8.3.m3.3.3.2.1.1.1.2" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.cmml"><mi id="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.2" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.2.cmml">y</mi><mn id="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.3" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.SS3.p8.3.m3.3.3.2.1.1.1.1" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.1.cmml">|</mo><mi id="S2.SS3.p8.3.m3.3.3.2.1.1.1.3" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS3.p8.3.m3.3.3.2.1.1.3" stretchy="false" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS3.p8.3.m3.3b"><apply id="S2.SS3.p8.3.m3.3.3.cmml" xref="S2.SS3.p8.3.m3.3.3"><neq id="S2.SS3.p8.3.m3.3.3.3.cmml" xref="S2.SS3.p8.3.m3.3.3.3"></neq><apply id="S2.SS3.p8.3.m3.2.2.1.cmml" xref="S2.SS3.p8.3.m3.2.2.1"><times id="S2.SS3.p8.3.m3.2.2.1.2.cmml" xref="S2.SS3.p8.3.m3.2.2.1.2"></times><apply id="S2.SS3.p8.3.m3.2.2.1.3.cmml" xref="S2.SS3.p8.3.m3.2.2.1.3"><csymbol cd="ambiguous" id="S2.SS3.p8.3.m3.2.2.1.3.1.cmml" xref="S2.SS3.p8.3.m3.2.2.1.3">subscript</csymbol><ci id="S2.SS3.p8.3.m3.2.2.1.3.2.cmml" xref="S2.SS3.p8.3.m3.2.2.1.3.2">𝑝</ci><ci id="S2.SS3.p8.3.m3.2.2.1.3.3.cmml" xref="S2.SS3.p8.3.m3.2.2.1.3.3">𝜃</ci></apply><apply id="S2.SS3.p8.3.m3.2.2.1.1.1.1.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1"><csymbol cd="latexml" id="S2.SS3.p8.3.m3.2.2.1.1.1.1.2.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.2">conditional</csymbol><apply id="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.1.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.3">subscript</csymbol><ci id="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.2.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.2">𝑦</ci><cn id="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.3.cmml" type="integer" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.3.3">2</cn></apply><list id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.2.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1"><apply id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.1.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.2.cmml" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.SS3.p8.3.m3.2.2.1.1.1.1.1.1.1.3">1</cn></apply><ci id="S2.SS3.p8.3.m3.1.1.cmml" xref="S2.SS3.p8.3.m3.1.1">𝑥</ci></list></apply></apply><apply id="S2.SS3.p8.3.m3.3.3.2.cmml" xref="S2.SS3.p8.3.m3.3.3.2"><times id="S2.SS3.p8.3.m3.3.3.2.2.cmml" xref="S2.SS3.p8.3.m3.3.3.2.2"></times><apply id="S2.SS3.p8.3.m3.3.3.2.3.cmml" xref="S2.SS3.p8.3.m3.3.3.2.3"><csymbol cd="ambiguous" id="S2.SS3.p8.3.m3.3.3.2.3.1.cmml" xref="S2.SS3.p8.3.m3.3.3.2.3">subscript</csymbol><ci id="S2.SS3.p8.3.m3.3.3.2.3.2.cmml" xref="S2.SS3.p8.3.m3.3.3.2.3.2">𝑝</ci><ci id="S2.SS3.p8.3.m3.3.3.2.3.3.cmml" xref="S2.SS3.p8.3.m3.3.3.2.3.3">𝜃</ci></apply><apply id="S2.SS3.p8.3.m3.3.3.2.1.1.1.cmml" xref="S2.SS3.p8.3.m3.3.3.2.1.1"><csymbol cd="latexml" id="S2.SS3.p8.3.m3.3.3.2.1.1.1.1.cmml" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.1">conditional</csymbol><apply id="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.cmml" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.2"><csymbol cd="ambiguous" id="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.1.cmml" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.2">subscript</csymbol><ci id="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.2.cmml" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.2">𝑦</ci><cn id="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.3.cmml" type="integer" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.2.3">1</cn></apply><ci id="S2.SS3.p8.3.m3.3.3.2.1.1.1.3.cmml" xref="S2.SS3.p8.3.m3.3.3.2.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p8.3.m3.3c">p_{\theta}(y_{2}|y_{1},x)\neq p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p8.3.m3.3d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_x ) ≠ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math>, resulting a non-zero epistemic uncertainty. In theory, the covariance can take positive or negative values. In practice though, one is only interested in the absolute value of <math alttext="\mathrm{cov}_{\theta}" class="ltx_Math" display="inline" id="S2.SS3.p8.4.m4.1"><semantics id="S2.SS3.p8.4.m4.1a"><msub id="S2.SS3.p8.4.m4.1.1" xref="S2.SS3.p8.4.m4.1.1.cmml"><mi id="S2.SS3.p8.4.m4.1.1.2" xref="S2.SS3.p8.4.m4.1.1.2.cmml">cov</mi><mi id="S2.SS3.p8.4.m4.1.1.3" xref="S2.SS3.p8.4.m4.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS3.p8.4.m4.1b"><apply id="S2.SS3.p8.4.m4.1.1.cmml" xref="S2.SS3.p8.4.m4.1.1"><csymbol cd="ambiguous" id="S2.SS3.p8.4.m4.1.1.1.cmml" xref="S2.SS3.p8.4.m4.1.1">subscript</csymbol><ci id="S2.SS3.p8.4.m4.1.1.2.cmml" xref="S2.SS3.p8.4.m4.1.1.2">cov</ci><ci id="S2.SS3.p8.4.m4.1.1.3.cmml" xref="S2.SS3.p8.4.m4.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS3.p8.4.m4.1c">\mathrm{cov}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS3.p8.4.m4.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math>, which can be used as an indicator of epistemic uncertainty.</p> </div> </section> <section class="ltx_subsection" id="S2.SS4"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">2.4 </span>Training the Model</h3> <div class="ltx_para" id="S2.SS4.p1"> <p class="ltx_p" id="S2.SS4.p1.10">In the classification setting, the softmax activation in the last layer of a neural network makes every classifier a probabilistic model. Since the output space <math alttext="\mathcal{Y}" class="ltx_Math" display="inline" id="S2.SS4.p1.1.m1.1"><semantics id="S2.SS4.p1.1.m1.1a"><mi class="ltx_font_mathcaligraphic" id="S2.SS4.p1.1.m1.1.1" xref="S2.SS4.p1.1.m1.1.1.cmml">𝒴</mi><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.1.m1.1b"><ci id="S2.SS4.p1.1.m1.1.1.cmml" xref="S2.SS4.p1.1.m1.1.1">𝒴</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.1.m1.1c">\mathcal{Y}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.1.m1.1d">caligraphic_Y</annotation></semantics></math> is finite, a model of this kind can potentially produce any distribution in <math alttext="\Delta_{\mathcal{Y}}" class="ltx_Math" display="inline" id="S2.SS4.p1.2.m2.1"><semantics id="S2.SS4.p1.2.m2.1a"><msub id="S2.SS4.p1.2.m2.1.1" xref="S2.SS4.p1.2.m2.1.1.cmml"><mi id="S2.SS4.p1.2.m2.1.1.2" mathvariant="normal" xref="S2.SS4.p1.2.m2.1.1.2.cmml">Δ</mi><mi class="ltx_font_mathcaligraphic" id="S2.SS4.p1.2.m2.1.1.3" xref="S2.SS4.p1.2.m2.1.1.3.cmml">𝒴</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.2.m2.1b"><apply id="S2.SS4.p1.2.m2.1.1.cmml" xref="S2.SS4.p1.2.m2.1.1"><csymbol cd="ambiguous" id="S2.SS4.p1.2.m2.1.1.1.cmml" xref="S2.SS4.p1.2.m2.1.1">subscript</csymbol><ci id="S2.SS4.p1.2.m2.1.1.2.cmml" xref="S2.SS4.p1.2.m2.1.1.2">Δ</ci><ci id="S2.SS4.p1.2.m2.1.1.3.cmml" xref="S2.SS4.p1.2.m2.1.1.3">𝒴</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.2.m2.1c">\Delta_{\mathcal{Y}}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.2.m2.1d">roman_Δ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT</annotation></semantics></math>. In regression, since <math alttext="\mathcal{Y}" class="ltx_Math" display="inline" id="S2.SS4.p1.3.m3.1"><semantics id="S2.SS4.p1.3.m3.1a"><mi class="ltx_font_mathcaligraphic" id="S2.SS4.p1.3.m3.1.1" xref="S2.SS4.p1.3.m3.1.1.cmml">𝒴</mi><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.3.m3.1b"><ci id="S2.SS4.p1.3.m3.1.1.cmml" xref="S2.SS4.p1.3.m3.1.1">𝒴</ci></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.3.m3.1c">\mathcal{Y}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.3.m3.1d">caligraphic_Y</annotation></semantics></math> is continuous, it is not possible to predict the probability density function <math alttext="p_{\theta}" class="ltx_Math" display="inline" id="S2.SS4.p1.4.m4.1"><semantics id="S2.SS4.p1.4.m4.1a"><msub id="S2.SS4.p1.4.m4.1.1" xref="S2.SS4.p1.4.m4.1.1.cmml"><mi id="S2.SS4.p1.4.m4.1.1.2" xref="S2.SS4.p1.4.m4.1.1.2.cmml">p</mi><mi id="S2.SS4.p1.4.m4.1.1.3" xref="S2.SS4.p1.4.m4.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.4.m4.1b"><apply id="S2.SS4.p1.4.m4.1.1.cmml" xref="S2.SS4.p1.4.m4.1.1"><csymbol cd="ambiguous" id="S2.SS4.p1.4.m4.1.1.1.cmml" xref="S2.SS4.p1.4.m4.1.1">subscript</csymbol><ci id="S2.SS4.p1.4.m4.1.1.2.cmml" xref="S2.SS4.p1.4.m4.1.1.2">𝑝</ci><ci id="S2.SS4.p1.4.m4.1.1.3.cmml" xref="S2.SS4.p1.4.m4.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.4.m4.1c">p_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.4.m4.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> in full generality. Instead, one is forced to use models in a subset <math alttext="\widehat{\Delta}_{\mathcal{Y}}\subset\Delta_{\mathcal{Y}}" class="ltx_Math" display="inline" id="S2.SS4.p1.5.m5.1"><semantics id="S2.SS4.p1.5.m5.1a"><mrow id="S2.SS4.p1.5.m5.1.1" xref="S2.SS4.p1.5.m5.1.1.cmml"><msub id="S2.SS4.p1.5.m5.1.1.2" xref="S2.SS4.p1.5.m5.1.1.2.cmml"><mover accent="true" id="S2.SS4.p1.5.m5.1.1.2.2" xref="S2.SS4.p1.5.m5.1.1.2.2.cmml"><mi id="S2.SS4.p1.5.m5.1.1.2.2.2" mathvariant="normal" xref="S2.SS4.p1.5.m5.1.1.2.2.2.cmml">Δ</mi><mo id="S2.SS4.p1.5.m5.1.1.2.2.1" xref="S2.SS4.p1.5.m5.1.1.2.2.1.cmml">^</mo></mover><mi class="ltx_font_mathcaligraphic" id="S2.SS4.p1.5.m5.1.1.2.3" xref="S2.SS4.p1.5.m5.1.1.2.3.cmml">𝒴</mi></msub><mo id="S2.SS4.p1.5.m5.1.1.1" xref="S2.SS4.p1.5.m5.1.1.1.cmml">⊂</mo><msub id="S2.SS4.p1.5.m5.1.1.3" xref="S2.SS4.p1.5.m5.1.1.3.cmml"><mi id="S2.SS4.p1.5.m5.1.1.3.2" mathvariant="normal" xref="S2.SS4.p1.5.m5.1.1.3.2.cmml">Δ</mi><mi class="ltx_font_mathcaligraphic" id="S2.SS4.p1.5.m5.1.1.3.3" xref="S2.SS4.p1.5.m5.1.1.3.3.cmml">𝒴</mi></msub></mrow><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.5.m5.1b"><apply id="S2.SS4.p1.5.m5.1.1.cmml" xref="S2.SS4.p1.5.m5.1.1"><subset id="S2.SS4.p1.5.m5.1.1.1.cmml" xref="S2.SS4.p1.5.m5.1.1.1"></subset><apply id="S2.SS4.p1.5.m5.1.1.2.cmml" xref="S2.SS4.p1.5.m5.1.1.2"><csymbol cd="ambiguous" id="S2.SS4.p1.5.m5.1.1.2.1.cmml" xref="S2.SS4.p1.5.m5.1.1.2">subscript</csymbol><apply id="S2.SS4.p1.5.m5.1.1.2.2.cmml" xref="S2.SS4.p1.5.m5.1.1.2.2"><ci id="S2.SS4.p1.5.m5.1.1.2.2.1.cmml" xref="S2.SS4.p1.5.m5.1.1.2.2.1">^</ci><ci id="S2.SS4.p1.5.m5.1.1.2.2.2.cmml" xref="S2.SS4.p1.5.m5.1.1.2.2.2">Δ</ci></apply><ci id="S2.SS4.p1.5.m5.1.1.2.3.cmml" xref="S2.SS4.p1.5.m5.1.1.2.3">𝒴</ci></apply><apply id="S2.SS4.p1.5.m5.1.1.3.cmml" xref="S2.SS4.p1.5.m5.1.1.3"><csymbol cd="ambiguous" id="S2.SS4.p1.5.m5.1.1.3.1.cmml" xref="S2.SS4.p1.5.m5.1.1.3">subscript</csymbol><ci id="S2.SS4.p1.5.m5.1.1.3.2.cmml" xref="S2.SS4.p1.5.m5.1.1.3.2">Δ</ci><ci id="S2.SS4.p1.5.m5.1.1.3.3.cmml" xref="S2.SS4.p1.5.m5.1.1.3.3">𝒴</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.5.m5.1c">\widehat{\Delta}_{\mathcal{Y}}\subset\Delta_{\mathcal{Y}}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.5.m5.1d">over^ start_ARG roman_Δ end_ARG start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT ⊂ roman_Δ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT</annotation></semantics></math>, where the densities can be given in terms of a finite set of parameters. The most common choice is to use Gaussian distributions <math alttext="p_{\theta}(y|x)=\mathcal{N}(y|\mu_{\theta}(x),\sigma^{2}_{\theta}(x))" class="ltx_Math" display="inline" id="S2.SS4.p1.6.m6.4"><semantics id="S2.SS4.p1.6.m6.4a"><mrow id="S2.SS4.p1.6.m6.4.4" xref="S2.SS4.p1.6.m6.4.4.cmml"><mrow id="S2.SS4.p1.6.m6.3.3.1" xref="S2.SS4.p1.6.m6.3.3.1.cmml"><msub id="S2.SS4.p1.6.m6.3.3.1.3" xref="S2.SS4.p1.6.m6.3.3.1.3.cmml"><mi id="S2.SS4.p1.6.m6.3.3.1.3.2" xref="S2.SS4.p1.6.m6.3.3.1.3.2.cmml">p</mi><mi id="S2.SS4.p1.6.m6.3.3.1.3.3" xref="S2.SS4.p1.6.m6.3.3.1.3.3.cmml">θ</mi></msub><mo id="S2.SS4.p1.6.m6.3.3.1.2" xref="S2.SS4.p1.6.m6.3.3.1.2.cmml">⁢</mo><mrow id="S2.SS4.p1.6.m6.3.3.1.1.1" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.cmml"><mo id="S2.SS4.p1.6.m6.3.3.1.1.1.2" stretchy="false" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.cmml">(</mo><mrow id="S2.SS4.p1.6.m6.3.3.1.1.1.1" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.cmml"><mi id="S2.SS4.p1.6.m6.3.3.1.1.1.1.2" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S2.SS4.p1.6.m6.3.3.1.1.1.1.1" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.1.cmml">|</mo><mi id="S2.SS4.p1.6.m6.3.3.1.1.1.1.3" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.SS4.p1.6.m6.3.3.1.1.1.3" stretchy="false" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.SS4.p1.6.m6.4.4.3" xref="S2.SS4.p1.6.m6.4.4.3.cmml">=</mo><mrow id="S2.SS4.p1.6.m6.4.4.2" xref="S2.SS4.p1.6.m6.4.4.2.cmml"><mi class="ltx_font_mathcaligraphic" id="S2.SS4.p1.6.m6.4.4.2.3" xref="S2.SS4.p1.6.m6.4.4.2.3.cmml">𝒩</mi><mo id="S2.SS4.p1.6.m6.4.4.2.2" xref="S2.SS4.p1.6.m6.4.4.2.2.cmml">⁢</mo><mrow id="S2.SS4.p1.6.m6.4.4.2.1.1" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.cmml"><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.2" stretchy="false" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.cmml">(</mo><mrow id="S2.SS4.p1.6.m6.4.4.2.1.1.1" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.cmml"><mi id="S2.SS4.p1.6.m6.4.4.2.1.1.1.4" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.4.cmml">y</mi><mo fence="false" id="S2.SS4.p1.6.m6.4.4.2.1.1.1.3" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.3.cmml">|</mo><mrow id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.3.cmml"><mrow id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.cmml"><msub id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.cmml"><mi id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.2.cmml">μ</mi><mi id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.3" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.3.cmml">θ</mi></msub><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.1" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.1.cmml">⁢</mo><mrow id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.3.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.cmml"><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.3.2.1" stretchy="false" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.cmml">(</mo><mi id="S2.SS4.p1.6.m6.1.1" xref="S2.SS4.p1.6.m6.1.1.cmml">x</mi><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.3.2.2" stretchy="false" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.3" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.3.cmml">,</mo><mrow id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.cmml"><msubsup id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.cmml"><mi id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.2.cmml">σ</mi><mi id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.3" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.3.cmml">θ</mi><mn id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.3" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.3.cmml">2</mn></msubsup><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.1" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.1.cmml">⁢</mo><mrow id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.3.2" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.cmml"><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.3.2.1" stretchy="false" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.cmml">(</mo><mi id="S2.SS4.p1.6.m6.2.2" xref="S2.SS4.p1.6.m6.2.2.cmml">x</mi><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.3.2.2" stretchy="false" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S2.SS4.p1.6.m6.4.4.2.1.1.3" stretchy="false" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.6.m6.4b"><apply id="S2.SS4.p1.6.m6.4.4.cmml" xref="S2.SS4.p1.6.m6.4.4"><eq id="S2.SS4.p1.6.m6.4.4.3.cmml" xref="S2.SS4.p1.6.m6.4.4.3"></eq><apply id="S2.SS4.p1.6.m6.3.3.1.cmml" xref="S2.SS4.p1.6.m6.3.3.1"><times id="S2.SS4.p1.6.m6.3.3.1.2.cmml" xref="S2.SS4.p1.6.m6.3.3.1.2"></times><apply id="S2.SS4.p1.6.m6.3.3.1.3.cmml" xref="S2.SS4.p1.6.m6.3.3.1.3"><csymbol cd="ambiguous" id="S2.SS4.p1.6.m6.3.3.1.3.1.cmml" xref="S2.SS4.p1.6.m6.3.3.1.3">subscript</csymbol><ci id="S2.SS4.p1.6.m6.3.3.1.3.2.cmml" xref="S2.SS4.p1.6.m6.3.3.1.3.2">𝑝</ci><ci id="S2.SS4.p1.6.m6.3.3.1.3.3.cmml" xref="S2.SS4.p1.6.m6.3.3.1.3.3">𝜃</ci></apply><apply id="S2.SS4.p1.6.m6.3.3.1.1.1.1.cmml" xref="S2.SS4.p1.6.m6.3.3.1.1.1"><csymbol cd="latexml" id="S2.SS4.p1.6.m6.3.3.1.1.1.1.1.cmml" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.1">conditional</csymbol><ci id="S2.SS4.p1.6.m6.3.3.1.1.1.1.2.cmml" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.2">𝑦</ci><ci id="S2.SS4.p1.6.m6.3.3.1.1.1.1.3.cmml" xref="S2.SS4.p1.6.m6.3.3.1.1.1.1.3">𝑥</ci></apply></apply><apply id="S2.SS4.p1.6.m6.4.4.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2"><times id="S2.SS4.p1.6.m6.4.4.2.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2.2"></times><ci id="S2.SS4.p1.6.m6.4.4.2.3.cmml" xref="S2.SS4.p1.6.m6.4.4.2.3">𝒩</ci><apply id="S2.SS4.p1.6.m6.4.4.2.1.1.1.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1"><csymbol cd="latexml" id="S2.SS4.p1.6.m6.4.4.2.1.1.1.3.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.3">conditional</csymbol><ci id="S2.SS4.p1.6.m6.4.4.2.1.1.1.4.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.4">𝑦</ci><list id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.3.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2"><apply id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1"><times id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.1.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.1"></times><apply id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.1.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.2">𝜇</ci><ci id="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.3.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.1.1.1.2.3">𝜃</ci></apply><ci id="S2.SS4.p1.6.m6.1.1.cmml" xref="S2.SS4.p1.6.m6.1.1">𝑥</ci></apply><apply id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2"><times id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.1.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.1"></times><apply id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2"><csymbol cd="ambiguous" id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.1.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2">subscript</csymbol><apply id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2"><csymbol cd="ambiguous" id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.1.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2">superscript</csymbol><ci id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.2.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.2">𝜎</ci><cn id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.3.cmml" type="integer" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.2.3">2</cn></apply><ci id="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.3.cmml" xref="S2.SS4.p1.6.m6.4.4.2.1.1.1.2.2.2.2.3">𝜃</ci></apply><ci id="S2.SS4.p1.6.m6.2.2.cmml" xref="S2.SS4.p1.6.m6.2.2">𝑥</ci></apply></list></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.6.m6.4c">p_{\theta}(y|x)=\mathcal{N}(y|\mu_{\theta}(x),\sigma^{2}_{\theta}(x))</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.6.m6.4d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) = caligraphic_N ( italic_y | italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) , italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) )</annotation></semantics></math>, and let the output of the model be directly the mean <math alttext="\mu_{\theta}" class="ltx_Math" display="inline" id="S2.SS4.p1.7.m7.1"><semantics id="S2.SS4.p1.7.m7.1a"><msub id="S2.SS4.p1.7.m7.1.1" xref="S2.SS4.p1.7.m7.1.1.cmml"><mi id="S2.SS4.p1.7.m7.1.1.2" xref="S2.SS4.p1.7.m7.1.1.2.cmml">μ</mi><mi id="S2.SS4.p1.7.m7.1.1.3" xref="S2.SS4.p1.7.m7.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.7.m7.1b"><apply id="S2.SS4.p1.7.m7.1.1.cmml" xref="S2.SS4.p1.7.m7.1.1"><csymbol cd="ambiguous" id="S2.SS4.p1.7.m7.1.1.1.cmml" xref="S2.SS4.p1.7.m7.1.1">subscript</csymbol><ci id="S2.SS4.p1.7.m7.1.1.2.cmml" xref="S2.SS4.p1.7.m7.1.1.2">𝜇</ci><ci id="S2.SS4.p1.7.m7.1.1.3.cmml" xref="S2.SS4.p1.7.m7.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.7.m7.1c">\mu_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.7.m7.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> and the variance <math alttext="\sigma_{\theta}^{2}\geq 0" class="ltx_Math" display="inline" id="S2.SS4.p1.8.m8.1"><semantics id="S2.SS4.p1.8.m8.1a"><mrow id="S2.SS4.p1.8.m8.1.1" xref="S2.SS4.p1.8.m8.1.1.cmml"><msubsup id="S2.SS4.p1.8.m8.1.1.2" xref="S2.SS4.p1.8.m8.1.1.2.cmml"><mi id="S2.SS4.p1.8.m8.1.1.2.2.2" xref="S2.SS4.p1.8.m8.1.1.2.2.2.cmml">σ</mi><mi id="S2.SS4.p1.8.m8.1.1.2.2.3" xref="S2.SS4.p1.8.m8.1.1.2.2.3.cmml">θ</mi><mn id="S2.SS4.p1.8.m8.1.1.2.3" xref="S2.SS4.p1.8.m8.1.1.2.3.cmml">2</mn></msubsup><mo id="S2.SS4.p1.8.m8.1.1.1" xref="S2.SS4.p1.8.m8.1.1.1.cmml">≥</mo><mn id="S2.SS4.p1.8.m8.1.1.3" xref="S2.SS4.p1.8.m8.1.1.3.cmml">0</mn></mrow><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.8.m8.1b"><apply id="S2.SS4.p1.8.m8.1.1.cmml" xref="S2.SS4.p1.8.m8.1.1"><geq id="S2.SS4.p1.8.m8.1.1.1.cmml" xref="S2.SS4.p1.8.m8.1.1.1"></geq><apply id="S2.SS4.p1.8.m8.1.1.2.cmml" xref="S2.SS4.p1.8.m8.1.1.2"><csymbol cd="ambiguous" id="S2.SS4.p1.8.m8.1.1.2.1.cmml" xref="S2.SS4.p1.8.m8.1.1.2">superscript</csymbol><apply id="S2.SS4.p1.8.m8.1.1.2.2.cmml" xref="S2.SS4.p1.8.m8.1.1.2"><csymbol cd="ambiguous" id="S2.SS4.p1.8.m8.1.1.2.2.1.cmml" xref="S2.SS4.p1.8.m8.1.1.2">subscript</csymbol><ci id="S2.SS4.p1.8.m8.1.1.2.2.2.cmml" xref="S2.SS4.p1.8.m8.1.1.2.2.2">𝜎</ci><ci id="S2.SS4.p1.8.m8.1.1.2.2.3.cmml" xref="S2.SS4.p1.8.m8.1.1.2.2.3">𝜃</ci></apply><cn id="S2.SS4.p1.8.m8.1.1.2.3.cmml" type="integer" xref="S2.SS4.p1.8.m8.1.1.2.3">2</cn></apply><cn id="S2.SS4.p1.8.m8.1.1.3.cmml" type="integer" xref="S2.SS4.p1.8.m8.1.1.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.8.m8.1c">\sigma_{\theta}^{2}\geq 0</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.8.m8.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ≥ 0</annotation></semantics></math>. Notice, however, that the discussion presented in this paper is not limited to this choice: the only requirement is to be able to compute <math alttext="\mathbb{E}_{\theta}" class="ltx_Math" display="inline" id="S2.SS4.p1.9.m9.1"><semantics id="S2.SS4.p1.9.m9.1a"><msub id="S2.SS4.p1.9.m9.1.1" xref="S2.SS4.p1.9.m9.1.1.cmml"><mi id="S2.SS4.p1.9.m9.1.1.2" xref="S2.SS4.p1.9.m9.1.1.2.cmml">𝔼</mi><mi id="S2.SS4.p1.9.m9.1.1.3" xref="S2.SS4.p1.9.m9.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.9.m9.1b"><apply id="S2.SS4.p1.9.m9.1.1.cmml" xref="S2.SS4.p1.9.m9.1.1"><csymbol cd="ambiguous" id="S2.SS4.p1.9.m9.1.1.1.cmml" xref="S2.SS4.p1.9.m9.1.1">subscript</csymbol><ci id="S2.SS4.p1.9.m9.1.1.2.cmml" xref="S2.SS4.p1.9.m9.1.1.2">𝔼</ci><ci id="S2.SS4.p1.9.m9.1.1.3.cmml" xref="S2.SS4.p1.9.m9.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.9.m9.1c">\mathbb{E}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.9.m9.1d">blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="\mathbb{V}_{\theta}" class="ltx_Math" display="inline" id="S2.SS4.p1.10.m10.1"><semantics id="S2.SS4.p1.10.m10.1a"><msub id="S2.SS4.p1.10.m10.1.1" xref="S2.SS4.p1.10.m10.1.1.cmml"><mi id="S2.SS4.p1.10.m10.1.1.2" xref="S2.SS4.p1.10.m10.1.1.2.cmml">𝕍</mi><mi id="S2.SS4.p1.10.m10.1.1.3" xref="S2.SS4.p1.10.m10.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS4.p1.10.m10.1b"><apply id="S2.SS4.p1.10.m10.1.1.cmml" xref="S2.SS4.p1.10.m10.1.1"><csymbol cd="ambiguous" id="S2.SS4.p1.10.m10.1.1.1.cmml" xref="S2.SS4.p1.10.m10.1.1">subscript</csymbol><ci id="S2.SS4.p1.10.m10.1.1.2.cmml" xref="S2.SS4.p1.10.m10.1.1.2">𝕍</ci><ci id="S2.SS4.p1.10.m10.1.1.3.cmml" xref="S2.SS4.p1.10.m10.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p1.10.m10.1c">\mathbb{V}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p1.10.m10.1d">blackboard_V start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> given any particular choice of parametric distribution.</p> </div> <div class="ltx_para" id="S2.SS4.p2"> <p class="ltx_p" id="S2.SS4.p2.2">Once the particular form of <math alttext="p_{\theta}" class="ltx_Math" display="inline" id="S2.SS4.p2.1.m1.1"><semantics id="S2.SS4.p2.1.m1.1a"><msub id="S2.SS4.p2.1.m1.1.1" xref="S2.SS4.p2.1.m1.1.1.cmml"><mi id="S2.SS4.p2.1.m1.1.1.2" xref="S2.SS4.p2.1.m1.1.1.2.cmml">p</mi><mi id="S2.SS4.p2.1.m1.1.1.3" xref="S2.SS4.p2.1.m1.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS4.p2.1.m1.1b"><apply id="S2.SS4.p2.1.m1.1.1.cmml" xref="S2.SS4.p2.1.m1.1.1"><csymbol cd="ambiguous" id="S2.SS4.p2.1.m1.1.1.1.cmml" xref="S2.SS4.p2.1.m1.1.1">subscript</csymbol><ci id="S2.SS4.p2.1.m1.1.1.2.cmml" xref="S2.SS4.p2.1.m1.1.1.2">𝑝</ci><ci id="S2.SS4.p2.1.m1.1.1.3.cmml" xref="S2.SS4.p2.1.m1.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p2.1.m1.1c">p_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p2.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> has been chosen, training a model to predict couples is not more difficult than training in the usual fashion. Indeed, the decomposition of Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.E8" title="Equation 8 ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">8</span></a>) allows training <math alttext="p_{\theta}" class="ltx_Math" display="inline" id="S2.SS4.p2.2.m2.1"><semantics id="S2.SS4.p2.2.m2.1a"><msub id="S2.SS4.p2.2.m2.1.1" xref="S2.SS4.p2.2.m2.1.1.cmml"><mi id="S2.SS4.p2.2.m2.1.1.2" xref="S2.SS4.p2.2.m2.1.1.2.cmml">p</mi><mi id="S2.SS4.p2.2.m2.1.1.3" xref="S2.SS4.p2.2.m2.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S2.SS4.p2.2.m2.1b"><apply id="S2.SS4.p2.2.m2.1.1.cmml" xref="S2.SS4.p2.2.m2.1.1"><csymbol cd="ambiguous" id="S2.SS4.p2.2.m2.1.1.1.cmml" xref="S2.SS4.p2.2.m2.1.1">subscript</csymbol><ci id="S2.SS4.p2.2.m2.1.1.2.cmml" xref="S2.SS4.p2.2.m2.1.1.2">𝑝</ci><ci id="S2.SS4.p2.2.m2.1.1.3.cmml" xref="S2.SS4.p2.2.m2.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.SS4.p2.2.m2.1c">p_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S2.SS4.p2.2.m2.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> by minimizing the negative log likelihood:</p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx3"> <tbody id="S2.E10"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\ell_{\text{NLL}}(y_{1},y_{2},p_{\theta}(\cdot,\cdot|x))" class="ltx_math_unparsed" display="inline" id="S2.E10.m1.1"><semantics id="S2.E10.m1.1a"><mrow id="S2.E10.m1.1b"><msub id="S2.E10.m1.1.1"><mi id="S2.E10.m1.1.1.2" mathvariant="normal">ℓ</mi><mtext id="S2.E10.m1.1.1.3">NLL</mtext></msub><mrow id="S2.E10.m1.1.2"><mo id="S2.E10.m1.1.2.1" stretchy="false">(</mo><msub id="S2.E10.m1.1.2.2"><mi id="S2.E10.m1.1.2.2.2">y</mi><mn id="S2.E10.m1.1.2.2.3">1</mn></msub><mo id="S2.E10.m1.1.2.3">,</mo><msub id="S2.E10.m1.1.2.4"><mi id="S2.E10.m1.1.2.4.2">y</mi><mn id="S2.E10.m1.1.2.4.3">2</mn></msub><mo id="S2.E10.m1.1.2.5">,</mo><msub id="S2.E10.m1.1.2.6"><mi id="S2.E10.m1.1.2.6.2">p</mi><mi id="S2.E10.m1.1.2.6.3">θ</mi></msub><mrow id="S2.E10.m1.1.2.7"><mo id="S2.E10.m1.1.2.7.1" stretchy="false">(</mo><mo id="S2.E10.m1.1.2.7.2" lspace="0em" rspace="0em">⋅</mo><mo id="S2.E10.m1.1.2.7.3" rspace="0em">,</mo><mo id="S2.E10.m1.1.2.7.4" lspace="0em" rspace="0em">⋅</mo><mo fence="false" id="S2.E10.m1.1.2.7.5" rspace="0.167em" stretchy="false">|</mo><mi id="S2.E10.m1.1.2.7.6">x</mi><mo id="S2.E10.m1.1.2.7.7" stretchy="false">)</mo></mrow><mo id="S2.E10.m1.1.2.8" stretchy="false">)</mo></mrow></mrow><annotation encoding="application/x-tex" id="S2.E10.m1.1c">\displaystyle\ell_{\text{NLL}}(y_{1},y_{2},p_{\theta}(\cdot,\cdot|x))</annotation><annotation encoding="application/x-llamapun" id="S2.E10.m1.1d">roman_ℓ start_POSTSUBSCRIPT NLL end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT , italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( ⋅ , ⋅ | italic_x ) )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=-\log p_{\theta}(y_{1},y_{2}|x)\;," class="ltx_Math" display="inline" id="S2.E10.m2.1"><semantics id="S2.E10.m2.1a"><mrow id="S2.E10.m2.1.1.1" xref="S2.E10.m2.1.1.1.1.cmml"><mrow id="S2.E10.m2.1.1.1.1" xref="S2.E10.m2.1.1.1.1.cmml"><mi id="S2.E10.m2.1.1.1.1.4" xref="S2.E10.m2.1.1.1.1.4.cmml"></mi><mo id="S2.E10.m2.1.1.1.1.3" xref="S2.E10.m2.1.1.1.1.3.cmml">=</mo><mrow id="S2.E10.m2.1.1.1.1.2" xref="S2.E10.m2.1.1.1.1.2.cmml"><mo id="S2.E10.m2.1.1.1.1.2a" rspace="0.167em" xref="S2.E10.m2.1.1.1.1.2.cmml">−</mo><mrow id="S2.E10.m2.1.1.1.1.2.2" xref="S2.E10.m2.1.1.1.1.2.2.cmml"><mrow id="S2.E10.m2.1.1.1.1.2.2.4" xref="S2.E10.m2.1.1.1.1.2.2.4.cmml"><mi id="S2.E10.m2.1.1.1.1.2.2.4.1" xref="S2.E10.m2.1.1.1.1.2.2.4.1.cmml">log</mi><mo id="S2.E10.m2.1.1.1.1.2.2.4a" lspace="0.167em" xref="S2.E10.m2.1.1.1.1.2.2.4.cmml">⁡</mo><msub id="S2.E10.m2.1.1.1.1.2.2.4.2" xref="S2.E10.m2.1.1.1.1.2.2.4.2.cmml"><mi id="S2.E10.m2.1.1.1.1.2.2.4.2.2" xref="S2.E10.m2.1.1.1.1.2.2.4.2.2.cmml">p</mi><mi id="S2.E10.m2.1.1.1.1.2.2.4.2.3" xref="S2.E10.m2.1.1.1.1.2.2.4.2.3.cmml">θ</mi></msub></mrow><mo id="S2.E10.m2.1.1.1.1.2.2.3" xref="S2.E10.m2.1.1.1.1.2.2.3.cmml">⁢</mo><mrow id="S2.E10.m2.1.1.1.1.2.2.2.2" xref="S2.E10.m2.1.1.1.1.2.2.2.3.cmml"><mo id="S2.E10.m2.1.1.1.1.2.2.2.2.3" stretchy="false" xref="S2.E10.m2.1.1.1.1.2.2.2.3.cmml">(</mo><msub id="S2.E10.m2.1.1.1.1.1.1.1.1.1" xref="S2.E10.m2.1.1.1.1.1.1.1.1.1.cmml"><mi id="S2.E10.m2.1.1.1.1.1.1.1.1.1.2" xref="S2.E10.m2.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.E10.m2.1.1.1.1.1.1.1.1.1.3" xref="S2.E10.m2.1.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.E10.m2.1.1.1.1.2.2.2.2.4" xref="S2.E10.m2.1.1.1.1.2.2.2.3.cmml">,</mo><mrow id="S2.E10.m2.1.1.1.1.2.2.2.2.2" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.cmml"><msub id="S2.E10.m2.1.1.1.1.2.2.2.2.2.2" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.cmml"><mi id="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.2" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.2.cmml">y</mi><mn id="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.3" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S2.E10.m2.1.1.1.1.2.2.2.2.2.1" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.1.cmml">|</mo><mi id="S2.E10.m2.1.1.1.1.2.2.2.2.2.3" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S2.E10.m2.1.1.1.1.2.2.2.2.5" rspace="0.280em" stretchy="false" xref="S2.E10.m2.1.1.1.1.2.2.2.3.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S2.E10.m2.1.1.1.2" xref="S2.E10.m2.1.1.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.E10.m2.1b"><apply id="S2.E10.m2.1.1.1.1.cmml" xref="S2.E10.m2.1.1.1"><eq id="S2.E10.m2.1.1.1.1.3.cmml" xref="S2.E10.m2.1.1.1.1.3"></eq><csymbol cd="latexml" id="S2.E10.m2.1.1.1.1.4.cmml" xref="S2.E10.m2.1.1.1.1.4">absent</csymbol><apply id="S2.E10.m2.1.1.1.1.2.cmml" xref="S2.E10.m2.1.1.1.1.2"><minus id="S2.E10.m2.1.1.1.1.2.3.cmml" xref="S2.E10.m2.1.1.1.1.2"></minus><apply id="S2.E10.m2.1.1.1.1.2.2.cmml" xref="S2.E10.m2.1.1.1.1.2.2"><times id="S2.E10.m2.1.1.1.1.2.2.3.cmml" xref="S2.E10.m2.1.1.1.1.2.2.3"></times><apply id="S2.E10.m2.1.1.1.1.2.2.4.cmml" xref="S2.E10.m2.1.1.1.1.2.2.4"><log id="S2.E10.m2.1.1.1.1.2.2.4.1.cmml" xref="S2.E10.m2.1.1.1.1.2.2.4.1"></log><apply id="S2.E10.m2.1.1.1.1.2.2.4.2.cmml" xref="S2.E10.m2.1.1.1.1.2.2.4.2"><csymbol cd="ambiguous" id="S2.E10.m2.1.1.1.1.2.2.4.2.1.cmml" xref="S2.E10.m2.1.1.1.1.2.2.4.2">subscript</csymbol><ci id="S2.E10.m2.1.1.1.1.2.2.4.2.2.cmml" xref="S2.E10.m2.1.1.1.1.2.2.4.2.2">𝑝</ci><ci id="S2.E10.m2.1.1.1.1.2.2.4.2.3.cmml" xref="S2.E10.m2.1.1.1.1.2.2.4.2.3">𝜃</ci></apply></apply><interval closure="open" id="S2.E10.m2.1.1.1.1.2.2.2.3.cmml" xref="S2.E10.m2.1.1.1.1.2.2.2.2"><apply id="S2.E10.m2.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E10.m2.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.E10.m2.1.1.1.1.1.1.1.1.1.1.cmml" xref="S2.E10.m2.1.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="S2.E10.m2.1.1.1.1.1.1.1.1.1.2.cmml" xref="S2.E10.m2.1.1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.E10.m2.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.E10.m2.1.1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="S2.E10.m2.1.1.1.1.2.2.2.2.2.cmml" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2"><csymbol cd="latexml" id="S2.E10.m2.1.1.1.1.2.2.2.2.2.1.cmml" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.1">conditional</csymbol><apply id="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.cmml" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.1.cmml" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.2">subscript</csymbol><ci id="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.2.cmml" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.2">𝑦</ci><cn id="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.3.cmml" type="integer" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.2.3">2</cn></apply><ci id="S2.E10.m2.1.1.1.1.2.2.2.2.2.3.cmml" xref="S2.E10.m2.1.1.1.1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.E10.m2.1c">\displaystyle=-\log p_{\theta}(y_{1},y_{2}|x)\;,</annotation><annotation encoding="application/x-llamapun" id="S2.E10.m2.1d">= - roman_log italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(10)</span></td> </tr></tbody> <tbody id="S2.Ex3"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=-\log p_{\theta}(y_{1}|x)\!-\!\log p_{\theta}(y_{2}|y_{1},x)," class="ltx_Math" display="inline" id="S2.Ex3.m1.2"><semantics id="S2.Ex3.m1.2a"><mrow id="S2.Ex3.m1.2.2.1" xref="S2.Ex3.m1.2.2.1.1.cmml"><mrow id="S2.Ex3.m1.2.2.1.1" xref="S2.Ex3.m1.2.2.1.1.cmml"><mi id="S2.Ex3.m1.2.2.1.1.4" xref="S2.Ex3.m1.2.2.1.1.4.cmml"></mi><mo id="S2.Ex3.m1.2.2.1.1.3" xref="S2.Ex3.m1.2.2.1.1.3.cmml">=</mo><mrow id="S2.Ex3.m1.2.2.1.1.2" xref="S2.Ex3.m1.2.2.1.1.2.cmml"><mrow id="S2.Ex3.m1.2.2.1.1.1.1" xref="S2.Ex3.m1.2.2.1.1.1.1.cmml"><mo id="S2.Ex3.m1.2.2.1.1.1.1a" rspace="0.167em" xref="S2.Ex3.m1.2.2.1.1.1.1.cmml">−</mo><mrow id="S2.Ex3.m1.2.2.1.1.1.1.1" xref="S2.Ex3.m1.2.2.1.1.1.1.1.cmml"><mrow id="S2.Ex3.m1.2.2.1.1.1.1.1.3" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.cmml"><mi id="S2.Ex3.m1.2.2.1.1.1.1.1.3.1" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.1.cmml">log</mi><mo id="S2.Ex3.m1.2.2.1.1.1.1.1.3a" lspace="0.167em" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.cmml">⁡</mo><msub id="S2.Ex3.m1.2.2.1.1.1.1.1.3.2" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.cmml"><mi id="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.2" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.2.cmml">p</mi><mi id="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.3" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.3.cmml">θ</mi></msub></mrow><mo id="S2.Ex3.m1.2.2.1.1.1.1.1.2" xref="S2.Ex3.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mo id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.cmml"><msub id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.cmml"><mi id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.2" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.3" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.1" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.3" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><mo id="S2.Ex3.m1.2.2.1.1.2.3" lspace="0.052em" rspace="0.052em" xref="S2.Ex3.m1.2.2.1.1.2.3.cmml">−</mo><mrow id="S2.Ex3.m1.2.2.1.1.2.2" xref="S2.Ex3.m1.2.2.1.1.2.2.cmml"><mrow id="S2.Ex3.m1.2.2.1.1.2.2.3" xref="S2.Ex3.m1.2.2.1.1.2.2.3.cmml"><mi id="S2.Ex3.m1.2.2.1.1.2.2.3.1" xref="S2.Ex3.m1.2.2.1.1.2.2.3.1.cmml">log</mi><mo id="S2.Ex3.m1.2.2.1.1.2.2.3a" lspace="0.167em" xref="S2.Ex3.m1.2.2.1.1.2.2.3.cmml">⁡</mo><msub id="S2.Ex3.m1.2.2.1.1.2.2.3.2" xref="S2.Ex3.m1.2.2.1.1.2.2.3.2.cmml"><mi id="S2.Ex3.m1.2.2.1.1.2.2.3.2.2" xref="S2.Ex3.m1.2.2.1.1.2.2.3.2.2.cmml">p</mi><mi id="S2.Ex3.m1.2.2.1.1.2.2.3.2.3" xref="S2.Ex3.m1.2.2.1.1.2.2.3.2.3.cmml">θ</mi></msub></mrow><mo id="S2.Ex3.m1.2.2.1.1.2.2.2" xref="S2.Ex3.m1.2.2.1.1.2.2.2.cmml">⁢</mo><mrow id="S2.Ex3.m1.2.2.1.1.2.2.1.1" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.cmml"><mo id="S2.Ex3.m1.2.2.1.1.2.2.1.1.2" stretchy="false" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.cmml">(</mo><mrow id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.cmml"><msub id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.cmml"><mi id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.2" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.2.cmml">y</mi><mn id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.3" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.2" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.2.cmml">|</mo><mrow id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.2.cmml"><msub id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.cmml"><mi id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.2" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.2.cmml">y</mi><mn id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.3" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.2" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.2.cmml">,</mo><mi id="S2.Ex3.m1.1.1" xref="S2.Ex3.m1.1.1.cmml">x</mi></mrow></mrow><mo id="S2.Ex3.m1.2.2.1.1.2.2.1.1.3" stretchy="false" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S2.Ex3.m1.2.2.1.2" xref="S2.Ex3.m1.2.2.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S2.Ex3.m1.2b"><apply id="S2.Ex3.m1.2.2.1.1.cmml" xref="S2.Ex3.m1.2.2.1"><eq id="S2.Ex3.m1.2.2.1.1.3.cmml" xref="S2.Ex3.m1.2.2.1.1.3"></eq><csymbol cd="latexml" id="S2.Ex3.m1.2.2.1.1.4.cmml" xref="S2.Ex3.m1.2.2.1.1.4">absent</csymbol><apply id="S2.Ex3.m1.2.2.1.1.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2"><minus id="S2.Ex3.m1.2.2.1.1.2.3.cmml" xref="S2.Ex3.m1.2.2.1.1.2.3"></minus><apply id="S2.Ex3.m1.2.2.1.1.1.1.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1"><minus id="S2.Ex3.m1.2.2.1.1.1.1.2.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1"></minus><apply id="S2.Ex3.m1.2.2.1.1.1.1.1.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1"><times id="S2.Ex3.m1.2.2.1.1.1.1.1.2.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.2"></times><apply id="S2.Ex3.m1.2.2.1.1.1.1.1.3.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3"><log id="S2.Ex3.m1.2.2.1.1.1.1.1.3.1.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.1"></log><apply id="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.1.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.2">subscript</csymbol><ci id="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.2.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.2">𝑝</ci><ci id="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.3.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.3.2.3">𝜃</ci></apply></apply><apply id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.1.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="S2.Ex3.m1.2.2.1.1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply><apply id="S2.Ex3.m1.2.2.1.1.2.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2"><times id="S2.Ex3.m1.2.2.1.1.2.2.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.2"></times><apply id="S2.Ex3.m1.2.2.1.1.2.2.3.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.3"><log id="S2.Ex3.m1.2.2.1.1.2.2.3.1.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.3.1"></log><apply id="S2.Ex3.m1.2.2.1.1.2.2.3.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.3.2"><csymbol cd="ambiguous" id="S2.Ex3.m1.2.2.1.1.2.2.3.2.1.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.3.2">subscript</csymbol><ci id="S2.Ex3.m1.2.2.1.1.2.2.3.2.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.3.2.2">𝑝</ci><ci id="S2.Ex3.m1.2.2.1.1.2.2.3.2.3.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.3.2.3">𝜃</ci></apply></apply><apply id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1"><csymbol cd="latexml" id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.2">conditional</csymbol><apply id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3"><csymbol cd="ambiguous" id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.1.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3">subscript</csymbol><ci id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.2">𝑦</ci><cn id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.3.cmml" type="integer" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.3.3">2</cn></apply><list id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1"><apply id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1"><csymbol cd="ambiguous" id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.1.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1">subscript</csymbol><ci id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.2.cmml" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.2">𝑦</ci><cn id="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.3.cmml" type="integer" xref="S2.Ex3.m1.2.2.1.1.2.2.1.1.1.1.1.1.3">1</cn></apply><ci id="S2.Ex3.m1.1.1.cmml" xref="S2.Ex3.m1.1.1">𝑥</ci></list></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.Ex3.m1.2c">\displaystyle=-\log p_{\theta}(y_{1}|x)\!-\!\log p_{\theta}(y_{2}|y_{1},x),</annotation><annotation encoding="application/x-llamapun" id="S2.Ex3.m1.2d">= - roman_log italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) - roman_log italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_x ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> </table> <p class="ltx_p" id="S2.SS4.p2.3">where the first term is the first prediction and the second is the output when concatenating the ground truth to the input. This methodology is appealing because:</p> <ul class="ltx_itemize" id="S2.I1"> <li class="ltx_item" id="S2.I1.i1" style="list-style-type:none;"> <span class="ltx_tag ltx_tag_item">•</span> <div class="ltx_para" id="S2.I1.i1.p1"> <p class="ltx_p" id="S2.I1.i1.p1.1">It requires training only one model, with minimal changes to the base architecture and the training procedure.</p> </div> </li> <li class="ltx_item" id="S2.I1.i2" style="list-style-type:none;"> <span class="ltx_tag ltx_tag_item">•</span> <div class="ltx_para" id="S2.I1.i2.p1"> <p class="ltx_p" id="S2.I1.i2.p1.1">Unlike in MC Dropout <cite class="ltx_cite ltx_citemacro_citep">(Gal & Ghahramani, <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib3" title="">2016</a>)</cite> and similar sampling-based methods, the sampling step of the present methodology can be performed in parallel by batching all the samples <math alttext="y_{m}" class="ltx_Math" display="inline" id="S2.I1.i2.p1.1.m1.1"><semantics id="S2.I1.i2.p1.1.m1.1a"><msub id="S2.I1.i2.p1.1.m1.1.1" xref="S2.I1.i2.p1.1.m1.1.1.cmml"><mi id="S2.I1.i2.p1.1.m1.1.1.2" xref="S2.I1.i2.p1.1.m1.1.1.2.cmml">y</mi><mi id="S2.I1.i2.p1.1.m1.1.1.3" xref="S2.I1.i2.p1.1.m1.1.1.3.cmml">m</mi></msub><annotation-xml encoding="MathML-Content" id="S2.I1.i2.p1.1.m1.1b"><apply id="S2.I1.i2.p1.1.m1.1.1.cmml" xref="S2.I1.i2.p1.1.m1.1.1"><csymbol cd="ambiguous" id="S2.I1.i2.p1.1.m1.1.1.1.cmml" xref="S2.I1.i2.p1.1.m1.1.1">subscript</csymbol><ci id="S2.I1.i2.p1.1.m1.1.1.2.cmml" xref="S2.I1.i2.p1.1.m1.1.1.2">𝑦</ci><ci id="S2.I1.i2.p1.1.m1.1.1.3.cmml" xref="S2.I1.i2.p1.1.m1.1.1.3">𝑚</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S2.I1.i2.p1.1.m1.1c">y_{m}</annotation><annotation encoding="application/x-llamapun" id="S2.I1.i2.p1.1.m1.1d">italic_y start_POSTSUBSCRIPT italic_m end_POSTSUBSCRIPT</annotation></semantics></math>, since the weights are treated deterministically.</p> </div> </li> </ul> </div> </section> </section> <section class="ltx_section" id="S3"> <h2 class="ltx_title ltx_title_section"> <span class="ltx_tag ltx_tag_section">3 </span>Related Work</h2> <section class="ltx_subsection" id="S3.SS1"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">3.1 </span>Bayesian Deep Learning</h3> <div class="ltx_para" id="S3.SS1.p1"> <p class="ltx_p" id="S3.SS1.p1.10">Bayesian Deep Learning is the most successful framework today to predict and analyze epistemic uncertainty in neural networks. The main object studied within the Bayesian framework is the so-called weight posterior:</p> <table class="ltx_equation ltx_eqn_table" id="S3.E11"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="p(\theta|\mathcal{D})\propto p(\theta)p(\mathcal{D}|\theta)\;," class="ltx_Math" display="block" id="S3.E11.m1.2"><semantics id="S3.E11.m1.2a"><mrow id="S3.E11.m1.2.2.1" xref="S3.E11.m1.2.2.1.1.cmml"><mrow id="S3.E11.m1.2.2.1.1" xref="S3.E11.m1.2.2.1.1.cmml"><mrow id="S3.E11.m1.2.2.1.1.1" xref="S3.E11.m1.2.2.1.1.1.cmml"><mi id="S3.E11.m1.2.2.1.1.1.3" xref="S3.E11.m1.2.2.1.1.1.3.cmml">p</mi><mo id="S3.E11.m1.2.2.1.1.1.2" xref="S3.E11.m1.2.2.1.1.1.2.cmml">⁢</mo><mrow id="S3.E11.m1.2.2.1.1.1.1.1" xref="S3.E11.m1.2.2.1.1.1.1.1.1.cmml"><mo id="S3.E11.m1.2.2.1.1.1.1.1.2" stretchy="false" xref="S3.E11.m1.2.2.1.1.1.1.1.1.cmml">(</mo><mrow id="S3.E11.m1.2.2.1.1.1.1.1.1" xref="S3.E11.m1.2.2.1.1.1.1.1.1.cmml"><mi id="S3.E11.m1.2.2.1.1.1.1.1.1.2" xref="S3.E11.m1.2.2.1.1.1.1.1.1.2.cmml">θ</mi><mo fence="false" id="S3.E11.m1.2.2.1.1.1.1.1.1.1" xref="S3.E11.m1.2.2.1.1.1.1.1.1.1.cmml">|</mo><mi class="ltx_font_mathcaligraphic" id="S3.E11.m1.2.2.1.1.1.1.1.1.3" xref="S3.E11.m1.2.2.1.1.1.1.1.1.3.cmml">𝒟</mi></mrow><mo id="S3.E11.m1.2.2.1.1.1.1.1.3" stretchy="false" xref="S3.E11.m1.2.2.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S3.E11.m1.2.2.1.1.3" xref="S3.E11.m1.2.2.1.1.3.cmml">∝</mo><mrow id="S3.E11.m1.2.2.1.1.2" xref="S3.E11.m1.2.2.1.1.2.cmml"><mi id="S3.E11.m1.2.2.1.1.2.3" xref="S3.E11.m1.2.2.1.1.2.3.cmml">p</mi><mo id="S3.E11.m1.2.2.1.1.2.2" xref="S3.E11.m1.2.2.1.1.2.2.cmml">⁢</mo><mrow id="S3.E11.m1.2.2.1.1.2.4.2" xref="S3.E11.m1.2.2.1.1.2.cmml"><mo id="S3.E11.m1.2.2.1.1.2.4.2.1" stretchy="false" xref="S3.E11.m1.2.2.1.1.2.cmml">(</mo><mi id="S3.E11.m1.1.1" xref="S3.E11.m1.1.1.cmml">θ</mi><mo id="S3.E11.m1.2.2.1.1.2.4.2.2" stretchy="false" xref="S3.E11.m1.2.2.1.1.2.cmml">)</mo></mrow><mo id="S3.E11.m1.2.2.1.1.2.2a" xref="S3.E11.m1.2.2.1.1.2.2.cmml">⁢</mo><mi id="S3.E11.m1.2.2.1.1.2.5" xref="S3.E11.m1.2.2.1.1.2.5.cmml">p</mi><mo id="S3.E11.m1.2.2.1.1.2.2b" xref="S3.E11.m1.2.2.1.1.2.2.cmml">⁢</mo><mrow id="S3.E11.m1.2.2.1.1.2.1.1" xref="S3.E11.m1.2.2.1.1.2.1.1.1.cmml"><mo id="S3.E11.m1.2.2.1.1.2.1.1.2" stretchy="false" xref="S3.E11.m1.2.2.1.1.2.1.1.1.cmml">(</mo><mrow id="S3.E11.m1.2.2.1.1.2.1.1.1" xref="S3.E11.m1.2.2.1.1.2.1.1.1.cmml"><mi class="ltx_font_mathcaligraphic" id="S3.E11.m1.2.2.1.1.2.1.1.1.2" xref="S3.E11.m1.2.2.1.1.2.1.1.1.2.cmml">𝒟</mi><mo fence="false" id="S3.E11.m1.2.2.1.1.2.1.1.1.1" xref="S3.E11.m1.2.2.1.1.2.1.1.1.1.cmml">|</mo><mi id="S3.E11.m1.2.2.1.1.2.1.1.1.3" xref="S3.E11.m1.2.2.1.1.2.1.1.1.3.cmml">θ</mi></mrow><mo id="S3.E11.m1.2.2.1.1.2.1.1.3" rspace="0.280em" stretchy="false" xref="S3.E11.m1.2.2.1.1.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><mo id="S3.E11.m1.2.2.1.2" xref="S3.E11.m1.2.2.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E11.m1.2b"><apply id="S3.E11.m1.2.2.1.1.cmml" xref="S3.E11.m1.2.2.1"><csymbol cd="latexml" id="S3.E11.m1.2.2.1.1.3.cmml" xref="S3.E11.m1.2.2.1.1.3">proportional-to</csymbol><apply id="S3.E11.m1.2.2.1.1.1.cmml" xref="S3.E11.m1.2.2.1.1.1"><times id="S3.E11.m1.2.2.1.1.1.2.cmml" xref="S3.E11.m1.2.2.1.1.1.2"></times><ci id="S3.E11.m1.2.2.1.1.1.3.cmml" xref="S3.E11.m1.2.2.1.1.1.3">𝑝</ci><apply id="S3.E11.m1.2.2.1.1.1.1.1.1.cmml" xref="S3.E11.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="S3.E11.m1.2.2.1.1.1.1.1.1.1.cmml" xref="S3.E11.m1.2.2.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.E11.m1.2.2.1.1.1.1.1.1.2.cmml" xref="S3.E11.m1.2.2.1.1.1.1.1.1.2">𝜃</ci><ci id="S3.E11.m1.2.2.1.1.1.1.1.1.3.cmml" xref="S3.E11.m1.2.2.1.1.1.1.1.1.3">𝒟</ci></apply></apply><apply id="S3.E11.m1.2.2.1.1.2.cmml" xref="S3.E11.m1.2.2.1.1.2"><times id="S3.E11.m1.2.2.1.1.2.2.cmml" xref="S3.E11.m1.2.2.1.1.2.2"></times><ci id="S3.E11.m1.2.2.1.1.2.3.cmml" xref="S3.E11.m1.2.2.1.1.2.3">𝑝</ci><ci id="S3.E11.m1.1.1.cmml" xref="S3.E11.m1.1.1">𝜃</ci><ci id="S3.E11.m1.2.2.1.1.2.5.cmml" xref="S3.E11.m1.2.2.1.1.2.5">𝑝</ci><apply id="S3.E11.m1.2.2.1.1.2.1.1.1.cmml" xref="S3.E11.m1.2.2.1.1.2.1.1"><csymbol cd="latexml" id="S3.E11.m1.2.2.1.1.2.1.1.1.1.cmml" xref="S3.E11.m1.2.2.1.1.2.1.1.1.1">conditional</csymbol><ci id="S3.E11.m1.2.2.1.1.2.1.1.1.2.cmml" xref="S3.E11.m1.2.2.1.1.2.1.1.1.2">𝒟</ci><ci id="S3.E11.m1.2.2.1.1.2.1.1.1.3.cmml" xref="S3.E11.m1.2.2.1.1.2.1.1.1.3">𝜃</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E11.m1.2c">p(\theta|\mathcal{D})\propto p(\theta)p(\mathcal{D}|\theta)\;,</annotation><annotation encoding="application/x-llamapun" id="S3.E11.m1.2d">italic_p ( italic_θ | caligraphic_D ) ∝ italic_p ( italic_θ ) italic_p ( caligraphic_D | italic_θ ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(11)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S3.SS1.p1.6">where <math alttext="p(\theta)" class="ltx_Math" display="inline" id="S3.SS1.p1.1.m1.1"><semantics id="S3.SS1.p1.1.m1.1a"><mrow id="S3.SS1.p1.1.m1.1.2" xref="S3.SS1.p1.1.m1.1.2.cmml"><mi id="S3.SS1.p1.1.m1.1.2.2" xref="S3.SS1.p1.1.m1.1.2.2.cmml">p</mi><mo id="S3.SS1.p1.1.m1.1.2.1" xref="S3.SS1.p1.1.m1.1.2.1.cmml">⁢</mo><mrow id="S3.SS1.p1.1.m1.1.2.3.2" xref="S3.SS1.p1.1.m1.1.2.cmml"><mo id="S3.SS1.p1.1.m1.1.2.3.2.1" stretchy="false" xref="S3.SS1.p1.1.m1.1.2.cmml">(</mo><mi id="S3.SS1.p1.1.m1.1.1" xref="S3.SS1.p1.1.m1.1.1.cmml">θ</mi><mo id="S3.SS1.p1.1.m1.1.2.3.2.2" stretchy="false" xref="S3.SS1.p1.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.1.m1.1b"><apply id="S3.SS1.p1.1.m1.1.2.cmml" xref="S3.SS1.p1.1.m1.1.2"><times id="S3.SS1.p1.1.m1.1.2.1.cmml" xref="S3.SS1.p1.1.m1.1.2.1"></times><ci id="S3.SS1.p1.1.m1.1.2.2.cmml" xref="S3.SS1.p1.1.m1.1.2.2">𝑝</ci><ci id="S3.SS1.p1.1.m1.1.1.cmml" xref="S3.SS1.p1.1.m1.1.1">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.1.m1.1c">p(\theta)</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.1.m1.1d">italic_p ( italic_θ )</annotation></semantics></math> is the prior on the weights <math alttext="\theta" class="ltx_Math" display="inline" id="S3.SS1.p1.2.m2.1"><semantics id="S3.SS1.p1.2.m2.1a"><mi id="S3.SS1.p1.2.m2.1.1" xref="S3.SS1.p1.2.m2.1.1.cmml">θ</mi><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.2.m2.1b"><ci id="S3.SS1.p1.2.m2.1.1.cmml" xref="S3.SS1.p1.2.m2.1.1">𝜃</ci></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.2.m2.1c">\theta</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.2.m2.1d">italic_θ</annotation></semantics></math> and <math alttext="p(\mathcal{D}|\theta)" class="ltx_Math" display="inline" id="S3.SS1.p1.3.m3.1"><semantics id="S3.SS1.p1.3.m3.1a"><mrow id="S3.SS1.p1.3.m3.1.1" xref="S3.SS1.p1.3.m3.1.1.cmml"><mi id="S3.SS1.p1.3.m3.1.1.3" xref="S3.SS1.p1.3.m3.1.1.3.cmml">p</mi><mo id="S3.SS1.p1.3.m3.1.1.2" xref="S3.SS1.p1.3.m3.1.1.2.cmml">⁢</mo><mrow id="S3.SS1.p1.3.m3.1.1.1.1" xref="S3.SS1.p1.3.m3.1.1.1.1.1.cmml"><mo id="S3.SS1.p1.3.m3.1.1.1.1.2" stretchy="false" xref="S3.SS1.p1.3.m3.1.1.1.1.1.cmml">(</mo><mrow id="S3.SS1.p1.3.m3.1.1.1.1.1" xref="S3.SS1.p1.3.m3.1.1.1.1.1.cmml"><mi class="ltx_font_mathcaligraphic" id="S3.SS1.p1.3.m3.1.1.1.1.1.2" xref="S3.SS1.p1.3.m3.1.1.1.1.1.2.cmml">𝒟</mi><mo fence="false" id="S3.SS1.p1.3.m3.1.1.1.1.1.1" xref="S3.SS1.p1.3.m3.1.1.1.1.1.1.cmml">|</mo><mi id="S3.SS1.p1.3.m3.1.1.1.1.1.3" xref="S3.SS1.p1.3.m3.1.1.1.1.1.3.cmml">θ</mi></mrow><mo id="S3.SS1.p1.3.m3.1.1.1.1.3" stretchy="false" xref="S3.SS1.p1.3.m3.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.3.m3.1b"><apply id="S3.SS1.p1.3.m3.1.1.cmml" xref="S3.SS1.p1.3.m3.1.1"><times id="S3.SS1.p1.3.m3.1.1.2.cmml" xref="S3.SS1.p1.3.m3.1.1.2"></times><ci id="S3.SS1.p1.3.m3.1.1.3.cmml" xref="S3.SS1.p1.3.m3.1.1.3">𝑝</ci><apply id="S3.SS1.p1.3.m3.1.1.1.1.1.cmml" xref="S3.SS1.p1.3.m3.1.1.1.1"><csymbol cd="latexml" id="S3.SS1.p1.3.m3.1.1.1.1.1.1.cmml" xref="S3.SS1.p1.3.m3.1.1.1.1.1.1">conditional</csymbol><ci id="S3.SS1.p1.3.m3.1.1.1.1.1.2.cmml" xref="S3.SS1.p1.3.m3.1.1.1.1.1.2">𝒟</ci><ci id="S3.SS1.p1.3.m3.1.1.1.1.1.3.cmml" xref="S3.SS1.p1.3.m3.1.1.1.1.1.3">𝜃</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.3.m3.1c">p(\mathcal{D}|\theta)</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.3.m3.1d">italic_p ( caligraphic_D | italic_θ )</annotation></semantics></math> is the likelihood, i.e. the probability to observe the dataset <math alttext="\mathcal{D}" class="ltx_Math" display="inline" id="S3.SS1.p1.4.m4.1"><semantics id="S3.SS1.p1.4.m4.1a"><mi class="ltx_font_mathcaligraphic" id="S3.SS1.p1.4.m4.1.1" xref="S3.SS1.p1.4.m4.1.1.cmml">𝒟</mi><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.4.m4.1b"><ci id="S3.SS1.p1.4.m4.1.1.cmml" xref="S3.SS1.p1.4.m4.1.1">𝒟</ci></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.4.m4.1c">\mathcal{D}</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.4.m4.1d">caligraphic_D</annotation></semantics></math> if the weights are set to <math alttext="\theta" class="ltx_Math" display="inline" id="S3.SS1.p1.5.m5.1"><semantics id="S3.SS1.p1.5.m5.1a"><mi id="S3.SS1.p1.5.m5.1.1" xref="S3.SS1.p1.5.m5.1.1.cmml">θ</mi><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.5.m5.1b"><ci id="S3.SS1.p1.5.m5.1.1.cmml" xref="S3.SS1.p1.5.m5.1.1">𝜃</ci></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.5.m5.1c">\theta</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.5.m5.1d">italic_θ</annotation></semantics></math>. The predicted distribution after training, <math alttext="p(y|x,\mathcal{D})" class="ltx_Math" display="inline" id="S3.SS1.p1.6.m6.3"><semantics id="S3.SS1.p1.6.m6.3a"><mrow id="S3.SS1.p1.6.m6.3.3" xref="S3.SS1.p1.6.m6.3.3.cmml"><mi id="S3.SS1.p1.6.m6.3.3.3" xref="S3.SS1.p1.6.m6.3.3.3.cmml">p</mi><mo id="S3.SS1.p1.6.m6.3.3.2" xref="S3.SS1.p1.6.m6.3.3.2.cmml">⁢</mo><mrow id="S3.SS1.p1.6.m6.3.3.1.1" xref="S3.SS1.p1.6.m6.3.3.1.1.1.cmml"><mo id="S3.SS1.p1.6.m6.3.3.1.1.2" stretchy="false" xref="S3.SS1.p1.6.m6.3.3.1.1.1.cmml">(</mo><mrow id="S3.SS1.p1.6.m6.3.3.1.1.1" xref="S3.SS1.p1.6.m6.3.3.1.1.1.cmml"><mi id="S3.SS1.p1.6.m6.3.3.1.1.1.2" xref="S3.SS1.p1.6.m6.3.3.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.SS1.p1.6.m6.3.3.1.1.1.1" xref="S3.SS1.p1.6.m6.3.3.1.1.1.1.cmml">|</mo><mrow id="S3.SS1.p1.6.m6.3.3.1.1.1.3.2" xref="S3.SS1.p1.6.m6.3.3.1.1.1.3.1.cmml"><mi id="S3.SS1.p1.6.m6.1.1" xref="S3.SS1.p1.6.m6.1.1.cmml">x</mi><mo id="S3.SS1.p1.6.m6.3.3.1.1.1.3.2.1" xref="S3.SS1.p1.6.m6.3.3.1.1.1.3.1.cmml">,</mo><mi class="ltx_font_mathcaligraphic" id="S3.SS1.p1.6.m6.2.2" xref="S3.SS1.p1.6.m6.2.2.cmml">𝒟</mi></mrow></mrow><mo id="S3.SS1.p1.6.m6.3.3.1.1.3" stretchy="false" xref="S3.SS1.p1.6.m6.3.3.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.6.m6.3b"><apply id="S3.SS1.p1.6.m6.3.3.cmml" xref="S3.SS1.p1.6.m6.3.3"><times id="S3.SS1.p1.6.m6.3.3.2.cmml" xref="S3.SS1.p1.6.m6.3.3.2"></times><ci id="S3.SS1.p1.6.m6.3.3.3.cmml" xref="S3.SS1.p1.6.m6.3.3.3">𝑝</ci><apply id="S3.SS1.p1.6.m6.3.3.1.1.1.cmml" xref="S3.SS1.p1.6.m6.3.3.1.1"><csymbol cd="latexml" id="S3.SS1.p1.6.m6.3.3.1.1.1.1.cmml" xref="S3.SS1.p1.6.m6.3.3.1.1.1.1">conditional</csymbol><ci id="S3.SS1.p1.6.m6.3.3.1.1.1.2.cmml" xref="S3.SS1.p1.6.m6.3.3.1.1.1.2">𝑦</ci><list id="S3.SS1.p1.6.m6.3.3.1.1.1.3.1.cmml" xref="S3.SS1.p1.6.m6.3.3.1.1.1.3.2"><ci id="S3.SS1.p1.6.m6.1.1.cmml" xref="S3.SS1.p1.6.m6.1.1">𝑥</ci><ci id="S3.SS1.p1.6.m6.2.2.cmml" xref="S3.SS1.p1.6.m6.2.2">𝒟</ci></list></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.6.m6.3c">p(y|x,\mathcal{D})</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.6.m6.3d">italic_p ( italic_y | italic_x , caligraphic_D )</annotation></semantics></math>, can then be given by averaging over the possible parameters as:</p> <table class="ltx_equation ltx_eqn_table" id="S3.E12"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="p(y|x,\mathcal{D})=\int p_{\theta}(y|x)p(\theta|\mathcal{D})\mathrm{d}\theta\;," class="ltx_Math" display="block" id="S3.E12.m1.3"><semantics id="S3.E12.m1.3a"><mrow id="S3.E12.m1.3.3.1" xref="S3.E12.m1.3.3.1.1.cmml"><mrow id="S3.E12.m1.3.3.1.1" xref="S3.E12.m1.3.3.1.1.cmml"><mrow id="S3.E12.m1.3.3.1.1.1" xref="S3.E12.m1.3.3.1.1.1.cmml"><mi id="S3.E12.m1.3.3.1.1.1.3" xref="S3.E12.m1.3.3.1.1.1.3.cmml">p</mi><mo id="S3.E12.m1.3.3.1.1.1.2" xref="S3.E12.m1.3.3.1.1.1.2.cmml">⁢</mo><mrow id="S3.E12.m1.3.3.1.1.1.1.1" xref="S3.E12.m1.3.3.1.1.1.1.1.1.cmml"><mo id="S3.E12.m1.3.3.1.1.1.1.1.2" stretchy="false" xref="S3.E12.m1.3.3.1.1.1.1.1.1.cmml">(</mo><mrow id="S3.E12.m1.3.3.1.1.1.1.1.1" xref="S3.E12.m1.3.3.1.1.1.1.1.1.cmml"><mi id="S3.E12.m1.3.3.1.1.1.1.1.1.2" xref="S3.E12.m1.3.3.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.E12.m1.3.3.1.1.1.1.1.1.1" xref="S3.E12.m1.3.3.1.1.1.1.1.1.1.cmml">|</mo><mrow id="S3.E12.m1.3.3.1.1.1.1.1.1.3.2" xref="S3.E12.m1.3.3.1.1.1.1.1.1.3.1.cmml"><mi id="S3.E12.m1.1.1" xref="S3.E12.m1.1.1.cmml">x</mi><mo id="S3.E12.m1.3.3.1.1.1.1.1.1.3.2.1" xref="S3.E12.m1.3.3.1.1.1.1.1.1.3.1.cmml">,</mo><mi class="ltx_font_mathcaligraphic" id="S3.E12.m1.2.2" xref="S3.E12.m1.2.2.cmml">𝒟</mi></mrow></mrow><mo id="S3.E12.m1.3.3.1.1.1.1.1.3" stretchy="false" xref="S3.E12.m1.3.3.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S3.E12.m1.3.3.1.1.4" rspace="0.111em" xref="S3.E12.m1.3.3.1.1.4.cmml">=</mo><mrow id="S3.E12.m1.3.3.1.1.3" xref="S3.E12.m1.3.3.1.1.3.cmml"><mo id="S3.E12.m1.3.3.1.1.3.3" xref="S3.E12.m1.3.3.1.1.3.3.cmml">∫</mo><mrow id="S3.E12.m1.3.3.1.1.3.2" xref="S3.E12.m1.3.3.1.1.3.2.cmml"><msub id="S3.E12.m1.3.3.1.1.3.2.4" xref="S3.E12.m1.3.3.1.1.3.2.4.cmml"><mi id="S3.E12.m1.3.3.1.1.3.2.4.2" xref="S3.E12.m1.3.3.1.1.3.2.4.2.cmml">p</mi><mi id="S3.E12.m1.3.3.1.1.3.2.4.3" xref="S3.E12.m1.3.3.1.1.3.2.4.3.cmml">θ</mi></msub><mo id="S3.E12.m1.3.3.1.1.3.2.3" xref="S3.E12.m1.3.3.1.1.3.2.3.cmml">⁢</mo><mrow id="S3.E12.m1.3.3.1.1.2.1.1.1" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.cmml"><mo id="S3.E12.m1.3.3.1.1.2.1.1.1.2" stretchy="false" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.cmml">(</mo><mrow id="S3.E12.m1.3.3.1.1.2.1.1.1.1" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.cmml"><mi id="S3.E12.m1.3.3.1.1.2.1.1.1.1.2" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.E12.m1.3.3.1.1.2.1.1.1.1.1" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.1.cmml">|</mo><mi id="S3.E12.m1.3.3.1.1.2.1.1.1.1.3" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.E12.m1.3.3.1.1.2.1.1.1.3" stretchy="false" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.cmml">)</mo></mrow><mo id="S3.E12.m1.3.3.1.1.3.2.3a" xref="S3.E12.m1.3.3.1.1.3.2.3.cmml">⁢</mo><mi id="S3.E12.m1.3.3.1.1.3.2.5" xref="S3.E12.m1.3.3.1.1.3.2.5.cmml">p</mi><mo id="S3.E12.m1.3.3.1.1.3.2.3b" xref="S3.E12.m1.3.3.1.1.3.2.3.cmml">⁢</mo><mrow id="S3.E12.m1.3.3.1.1.3.2.2.1" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.cmml"><mo id="S3.E12.m1.3.3.1.1.3.2.2.1.2" stretchy="false" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.cmml">(</mo><mrow id="S3.E12.m1.3.3.1.1.3.2.2.1.1" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.cmml"><mi id="S3.E12.m1.3.3.1.1.3.2.2.1.1.2" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.2.cmml">θ</mi><mo fence="false" id="S3.E12.m1.3.3.1.1.3.2.2.1.1.1" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.1.cmml">|</mo><mi class="ltx_font_mathcaligraphic" id="S3.E12.m1.3.3.1.1.3.2.2.1.1.3" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.3.cmml">𝒟</mi></mrow><mo id="S3.E12.m1.3.3.1.1.3.2.2.1.3" stretchy="false" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.cmml">)</mo></mrow><mo id="S3.E12.m1.3.3.1.1.3.2.3c" lspace="0em" xref="S3.E12.m1.3.3.1.1.3.2.3.cmml">⁢</mo><mrow id="S3.E12.m1.3.3.1.1.3.2.6" xref="S3.E12.m1.3.3.1.1.3.2.6.cmml"><mo id="S3.E12.m1.3.3.1.1.3.2.6.1" rspace="0em" xref="S3.E12.m1.3.3.1.1.3.2.6.1.cmml">d</mo><mi id="S3.E12.m1.3.3.1.1.3.2.6.2" xref="S3.E12.m1.3.3.1.1.3.2.6.2.cmml">θ</mi></mrow></mrow></mrow></mrow><mo id="S3.E12.m1.3.3.1.2" lspace="0.280em" xref="S3.E12.m1.3.3.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E12.m1.3b"><apply id="S3.E12.m1.3.3.1.1.cmml" xref="S3.E12.m1.3.3.1"><eq id="S3.E12.m1.3.3.1.1.4.cmml" xref="S3.E12.m1.3.3.1.1.4"></eq><apply id="S3.E12.m1.3.3.1.1.1.cmml" xref="S3.E12.m1.3.3.1.1.1"><times id="S3.E12.m1.3.3.1.1.1.2.cmml" xref="S3.E12.m1.3.3.1.1.1.2"></times><ci id="S3.E12.m1.3.3.1.1.1.3.cmml" xref="S3.E12.m1.3.3.1.1.1.3">𝑝</ci><apply id="S3.E12.m1.3.3.1.1.1.1.1.1.cmml" xref="S3.E12.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="S3.E12.m1.3.3.1.1.1.1.1.1.1.cmml" xref="S3.E12.m1.3.3.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.E12.m1.3.3.1.1.1.1.1.1.2.cmml" xref="S3.E12.m1.3.3.1.1.1.1.1.1.2">𝑦</ci><list id="S3.E12.m1.3.3.1.1.1.1.1.1.3.1.cmml" xref="S3.E12.m1.3.3.1.1.1.1.1.1.3.2"><ci id="S3.E12.m1.1.1.cmml" xref="S3.E12.m1.1.1">𝑥</ci><ci id="S3.E12.m1.2.2.cmml" xref="S3.E12.m1.2.2">𝒟</ci></list></apply></apply><apply id="S3.E12.m1.3.3.1.1.3.cmml" xref="S3.E12.m1.3.3.1.1.3"><int id="S3.E12.m1.3.3.1.1.3.3.cmml" xref="S3.E12.m1.3.3.1.1.3.3"></int><apply id="S3.E12.m1.3.3.1.1.3.2.cmml" xref="S3.E12.m1.3.3.1.1.3.2"><times id="S3.E12.m1.3.3.1.1.3.2.3.cmml" xref="S3.E12.m1.3.3.1.1.3.2.3"></times><apply id="S3.E12.m1.3.3.1.1.3.2.4.cmml" xref="S3.E12.m1.3.3.1.1.3.2.4"><csymbol cd="ambiguous" id="S3.E12.m1.3.3.1.1.3.2.4.1.cmml" xref="S3.E12.m1.3.3.1.1.3.2.4">subscript</csymbol><ci id="S3.E12.m1.3.3.1.1.3.2.4.2.cmml" xref="S3.E12.m1.3.3.1.1.3.2.4.2">𝑝</ci><ci id="S3.E12.m1.3.3.1.1.3.2.4.3.cmml" xref="S3.E12.m1.3.3.1.1.3.2.4.3">𝜃</ci></apply><apply id="S3.E12.m1.3.3.1.1.2.1.1.1.1.cmml" xref="S3.E12.m1.3.3.1.1.2.1.1.1"><csymbol cd="latexml" id="S3.E12.m1.3.3.1.1.2.1.1.1.1.1.cmml" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.1">conditional</csymbol><ci id="S3.E12.m1.3.3.1.1.2.1.1.1.1.2.cmml" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.2">𝑦</ci><ci id="S3.E12.m1.3.3.1.1.2.1.1.1.1.3.cmml" xref="S3.E12.m1.3.3.1.1.2.1.1.1.1.3">𝑥</ci></apply><ci id="S3.E12.m1.3.3.1.1.3.2.5.cmml" xref="S3.E12.m1.3.3.1.1.3.2.5">𝑝</ci><apply id="S3.E12.m1.3.3.1.1.3.2.2.1.1.cmml" xref="S3.E12.m1.3.3.1.1.3.2.2.1"><csymbol cd="latexml" id="S3.E12.m1.3.3.1.1.3.2.2.1.1.1.cmml" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.1">conditional</csymbol><ci id="S3.E12.m1.3.3.1.1.3.2.2.1.1.2.cmml" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.2">𝜃</ci><ci id="S3.E12.m1.3.3.1.1.3.2.2.1.1.3.cmml" xref="S3.E12.m1.3.3.1.1.3.2.2.1.1.3">𝒟</ci></apply><apply id="S3.E12.m1.3.3.1.1.3.2.6.cmml" xref="S3.E12.m1.3.3.1.1.3.2.6"><csymbol cd="latexml" id="S3.E12.m1.3.3.1.1.3.2.6.1.cmml" xref="S3.E12.m1.3.3.1.1.3.2.6.1">differential-d</csymbol><ci id="S3.E12.m1.3.3.1.1.3.2.6.2.cmml" xref="S3.E12.m1.3.3.1.1.3.2.6.2">𝜃</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E12.m1.3c">p(y|x,\mathcal{D})=\int p_{\theta}(y|x)p(\theta|\mathcal{D})\mathrm{d}\theta\;,</annotation><annotation encoding="application/x-llamapun" id="S3.E12.m1.3d">italic_p ( italic_y | italic_x , caligraphic_D ) = ∫ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) italic_p ( italic_θ | caligraphic_D ) roman_d italic_θ ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(12)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S3.SS1.p1.8">where <math alttext="p_{\theta}(y|x)" class="ltx_Math" display="inline" id="S3.SS1.p1.7.m1.1"><semantics id="S3.SS1.p1.7.m1.1a"><mrow id="S3.SS1.p1.7.m1.1.1" xref="S3.SS1.p1.7.m1.1.1.cmml"><msub id="S3.SS1.p1.7.m1.1.1.3" xref="S3.SS1.p1.7.m1.1.1.3.cmml"><mi id="S3.SS1.p1.7.m1.1.1.3.2" xref="S3.SS1.p1.7.m1.1.1.3.2.cmml">p</mi><mi id="S3.SS1.p1.7.m1.1.1.3.3" xref="S3.SS1.p1.7.m1.1.1.3.3.cmml">θ</mi></msub><mo id="S3.SS1.p1.7.m1.1.1.2" xref="S3.SS1.p1.7.m1.1.1.2.cmml">⁢</mo><mrow id="S3.SS1.p1.7.m1.1.1.1.1" xref="S3.SS1.p1.7.m1.1.1.1.1.1.cmml"><mo id="S3.SS1.p1.7.m1.1.1.1.1.2" stretchy="false" xref="S3.SS1.p1.7.m1.1.1.1.1.1.cmml">(</mo><mrow id="S3.SS1.p1.7.m1.1.1.1.1.1" xref="S3.SS1.p1.7.m1.1.1.1.1.1.cmml"><mi id="S3.SS1.p1.7.m1.1.1.1.1.1.2" xref="S3.SS1.p1.7.m1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.SS1.p1.7.m1.1.1.1.1.1.1" xref="S3.SS1.p1.7.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S3.SS1.p1.7.m1.1.1.1.1.1.3" xref="S3.SS1.p1.7.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.SS1.p1.7.m1.1.1.1.1.3" stretchy="false" xref="S3.SS1.p1.7.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.7.m1.1b"><apply id="S3.SS1.p1.7.m1.1.1.cmml" xref="S3.SS1.p1.7.m1.1.1"><times id="S3.SS1.p1.7.m1.1.1.2.cmml" xref="S3.SS1.p1.7.m1.1.1.2"></times><apply id="S3.SS1.p1.7.m1.1.1.3.cmml" xref="S3.SS1.p1.7.m1.1.1.3"><csymbol cd="ambiguous" id="S3.SS1.p1.7.m1.1.1.3.1.cmml" xref="S3.SS1.p1.7.m1.1.1.3">subscript</csymbol><ci id="S3.SS1.p1.7.m1.1.1.3.2.cmml" xref="S3.SS1.p1.7.m1.1.1.3.2">𝑝</ci><ci id="S3.SS1.p1.7.m1.1.1.3.3.cmml" xref="S3.SS1.p1.7.m1.1.1.3.3">𝜃</ci></apply><apply id="S3.SS1.p1.7.m1.1.1.1.1.1.cmml" xref="S3.SS1.p1.7.m1.1.1.1.1"><csymbol cd="latexml" id="S3.SS1.p1.7.m1.1.1.1.1.1.1.cmml" xref="S3.SS1.p1.7.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.SS1.p1.7.m1.1.1.1.1.1.2.cmml" xref="S3.SS1.p1.7.m1.1.1.1.1.1.2">𝑦</ci><ci id="S3.SS1.p1.7.m1.1.1.1.1.1.3.cmml" xref="S3.SS1.p1.7.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.7.m1.1c">p_{\theta}(y|x)</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.7.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x )</annotation></semantics></math> is a specific instance of the model with weights equal to a specific value of <math alttext="\theta" class="ltx_Math" display="inline" id="S3.SS1.p1.8.m2.1"><semantics id="S3.SS1.p1.8.m2.1a"><mi id="S3.SS1.p1.8.m2.1.1" xref="S3.SS1.p1.8.m2.1.1.cmml">θ</mi><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.8.m2.1b"><ci id="S3.SS1.p1.8.m2.1.1.cmml" xref="S3.SS1.p1.8.m2.1.1">𝜃</ci></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.8.m2.1c">\theta</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.8.m2.1d">italic_θ</annotation></semantics></math>. This leads to a variance decomposition, using the law of total variance, which is very similar to that in Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a>:</p> <table class="ltx_equation ltx_eqn_table" id="S3.E13"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathbb{V}[Y|x,\mathcal{D}]=\underbrace{\mathbb{E}[\mathbb{V}_{\theta}[Y|x]|% \mathcal{D}]}_{\text{aleatoric}}+\underbrace{\mathbb{V}[\mathbb{E}_{\theta}[Y|% x]|\mathcal{D}]}_{\text{epistemic}}\;." class="ltx_Math" display="block" id="S3.E13.m1.5"><semantics id="S3.E13.m1.5a"><mrow id="S3.E13.m1.5.5.1" xref="S3.E13.m1.5.5.1.1.cmml"><mrow id="S3.E13.m1.5.5.1.1" xref="S3.E13.m1.5.5.1.1.cmml"><mrow id="S3.E13.m1.5.5.1.1.1" xref="S3.E13.m1.5.5.1.1.1.cmml"><mi id="S3.E13.m1.5.5.1.1.1.3" xref="S3.E13.m1.5.5.1.1.1.3.cmml">𝕍</mi><mo id="S3.E13.m1.5.5.1.1.1.2" xref="S3.E13.m1.5.5.1.1.1.2.cmml">⁢</mo><mrow id="S3.E13.m1.5.5.1.1.1.1.1" xref="S3.E13.m1.5.5.1.1.1.1.2.cmml"><mo id="S3.E13.m1.5.5.1.1.1.1.1.2" stretchy="false" xref="S3.E13.m1.5.5.1.1.1.1.2.1.cmml">[</mo><mrow id="S3.E13.m1.5.5.1.1.1.1.1.1" xref="S3.E13.m1.5.5.1.1.1.1.1.1.cmml"><mi id="S3.E13.m1.5.5.1.1.1.1.1.1.2" xref="S3.E13.m1.5.5.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S3.E13.m1.5.5.1.1.1.1.1.1.1" xref="S3.E13.m1.5.5.1.1.1.1.1.1.1.cmml">|</mo><mrow id="S3.E13.m1.5.5.1.1.1.1.1.1.3.2" xref="S3.E13.m1.5.5.1.1.1.1.1.1.3.1.cmml"><mi id="S3.E13.m1.3.3" xref="S3.E13.m1.3.3.cmml">x</mi><mo id="S3.E13.m1.5.5.1.1.1.1.1.1.3.2.1" xref="S3.E13.m1.5.5.1.1.1.1.1.1.3.1.cmml">,</mo><mi class="ltx_font_mathcaligraphic" id="S3.E13.m1.4.4" xref="S3.E13.m1.4.4.cmml">𝒟</mi></mrow></mrow><mo id="S3.E13.m1.5.5.1.1.1.1.1.3" stretchy="false" xref="S3.E13.m1.5.5.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S3.E13.m1.5.5.1.1.2" xref="S3.E13.m1.5.5.1.1.2.cmml">=</mo><mrow id="S3.E13.m1.5.5.1.1.3" xref="S3.E13.m1.5.5.1.1.3.cmml"><munder id="S3.E13.m1.5.5.1.1.3.2" xref="S3.E13.m1.5.5.1.1.3.2.cmml"><munder accentunder="true" id="S3.E13.m1.1.1" xref="S3.E13.m1.1.1.cmml"><mrow id="S3.E13.m1.1.1.1" xref="S3.E13.m1.1.1.1.cmml"><mi id="S3.E13.m1.1.1.1.3" xref="S3.E13.m1.1.1.1.3.cmml">𝔼</mi><mo id="S3.E13.m1.1.1.1.2" xref="S3.E13.m1.1.1.1.2.cmml">⁢</mo><mrow id="S3.E13.m1.1.1.1.1.1" xref="S3.E13.m1.1.1.1.1.2.cmml"><mo id="S3.E13.m1.1.1.1.1.1.2" stretchy="false" xref="S3.E13.m1.1.1.1.1.2.1.cmml">[</mo><mrow id="S3.E13.m1.1.1.1.1.1.1" xref="S3.E13.m1.1.1.1.1.1.1.cmml"><mrow id="S3.E13.m1.1.1.1.1.1.1.1" xref="S3.E13.m1.1.1.1.1.1.1.1.cmml"><msub id="S3.E13.m1.1.1.1.1.1.1.1.3" xref="S3.E13.m1.1.1.1.1.1.1.1.3.cmml"><mi id="S3.E13.m1.1.1.1.1.1.1.1.3.2" xref="S3.E13.m1.1.1.1.1.1.1.1.3.2.cmml">𝕍</mi><mi id="S3.E13.m1.1.1.1.1.1.1.1.3.3" xref="S3.E13.m1.1.1.1.1.1.1.1.3.3.cmml">θ</mi></msub><mo id="S3.E13.m1.1.1.1.1.1.1.1.2" xref="S3.E13.m1.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S3.E13.m1.1.1.1.1.1.1.1.1.1" xref="S3.E13.m1.1.1.1.1.1.1.1.1.2.cmml"><mo id="S3.E13.m1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="S3.E13.m1.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.cmml"><mi id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.2" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.1" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.3" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.E13.m1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="S3.E13.m1.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S3.E13.m1.1.1.1.1.1.1.2" xref="S3.E13.m1.1.1.1.1.1.1.2.cmml">|</mo><mi class="ltx_font_mathcaligraphic" id="S3.E13.m1.1.1.1.1.1.1.3" xref="S3.E13.m1.1.1.1.1.1.1.3.cmml">𝒟</mi></mrow><mo id="S3.E13.m1.1.1.1.1.1.3" stretchy="false" xref="S3.E13.m1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S3.E13.m1.1.1.2" xref="S3.E13.m1.1.1.2.cmml">⏟</mo></munder><mtext id="S3.E13.m1.5.5.1.1.3.2.2" xref="S3.E13.m1.5.5.1.1.3.2.2a.cmml">aleatoric</mtext></munder><mo id="S3.E13.m1.5.5.1.1.3.1" xref="S3.E13.m1.5.5.1.1.3.1.cmml">+</mo><munder id="S3.E13.m1.5.5.1.1.3.3" xref="S3.E13.m1.5.5.1.1.3.3.cmml"><munder accentunder="true" id="S3.E13.m1.2.2" xref="S3.E13.m1.2.2.cmml"><mrow id="S3.E13.m1.2.2.1" xref="S3.E13.m1.2.2.1.cmml"><mi id="S3.E13.m1.2.2.1.3" xref="S3.E13.m1.2.2.1.3.cmml">𝕍</mi><mo id="S3.E13.m1.2.2.1.2" xref="S3.E13.m1.2.2.1.2.cmml">⁢</mo><mrow id="S3.E13.m1.2.2.1.1.1" xref="S3.E13.m1.2.2.1.1.2.cmml"><mo id="S3.E13.m1.2.2.1.1.1.2" stretchy="false" xref="S3.E13.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="S3.E13.m1.2.2.1.1.1.1" xref="S3.E13.m1.2.2.1.1.1.1.cmml"><mrow id="S3.E13.m1.2.2.1.1.1.1.1" xref="S3.E13.m1.2.2.1.1.1.1.1.cmml"><msub id="S3.E13.m1.2.2.1.1.1.1.1.3" xref="S3.E13.m1.2.2.1.1.1.1.1.3.cmml"><mi id="S3.E13.m1.2.2.1.1.1.1.1.3.2" xref="S3.E13.m1.2.2.1.1.1.1.1.3.2.cmml">𝔼</mi><mi id="S3.E13.m1.2.2.1.1.1.1.1.3.3" xref="S3.E13.m1.2.2.1.1.1.1.1.3.3.cmml">θ</mi></msub><mo id="S3.E13.m1.2.2.1.1.1.1.1.2" xref="S3.E13.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S3.E13.m1.2.2.1.1.1.1.1.1.1" xref="S3.E13.m1.2.2.1.1.1.1.1.1.2.cmml"><mo id="S3.E13.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="S3.E13.m1.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mi id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.2" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.1" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.3" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.E13.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="S3.E13.m1.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="S3.E13.m1.2.2.1.1.1.1.2" xref="S3.E13.m1.2.2.1.1.1.1.2.cmml">|</mo><mi class="ltx_font_mathcaligraphic" id="S3.E13.m1.2.2.1.1.1.1.3" xref="S3.E13.m1.2.2.1.1.1.1.3.cmml">𝒟</mi></mrow><mo id="S3.E13.m1.2.2.1.1.1.3" stretchy="false" xref="S3.E13.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="S3.E13.m1.2.2.2" xref="S3.E13.m1.2.2.2.cmml">⏟</mo></munder><mtext id="S3.E13.m1.5.5.1.1.3.3.2" xref="S3.E13.m1.5.5.1.1.3.3.2a.cmml">epistemic</mtext></munder></mrow></mrow><mo id="S3.E13.m1.5.5.1.2" lspace="0em" xref="S3.E13.m1.5.5.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E13.m1.5b"><apply id="S3.E13.m1.5.5.1.1.cmml" xref="S3.E13.m1.5.5.1"><eq id="S3.E13.m1.5.5.1.1.2.cmml" xref="S3.E13.m1.5.5.1.1.2"></eq><apply id="S3.E13.m1.5.5.1.1.1.cmml" xref="S3.E13.m1.5.5.1.1.1"><times id="S3.E13.m1.5.5.1.1.1.2.cmml" xref="S3.E13.m1.5.5.1.1.1.2"></times><ci id="S3.E13.m1.5.5.1.1.1.3.cmml" xref="S3.E13.m1.5.5.1.1.1.3">𝕍</ci><apply id="S3.E13.m1.5.5.1.1.1.1.2.cmml" xref="S3.E13.m1.5.5.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.5.5.1.1.1.1.2.1.cmml" xref="S3.E13.m1.5.5.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S3.E13.m1.5.5.1.1.1.1.1.1.cmml" xref="S3.E13.m1.5.5.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.5.5.1.1.1.1.1.1.1.cmml" xref="S3.E13.m1.5.5.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.E13.m1.5.5.1.1.1.1.1.1.2.cmml" xref="S3.E13.m1.5.5.1.1.1.1.1.1.2">𝑌</ci><list id="S3.E13.m1.5.5.1.1.1.1.1.1.3.1.cmml" xref="S3.E13.m1.5.5.1.1.1.1.1.1.3.2"><ci id="S3.E13.m1.3.3.cmml" xref="S3.E13.m1.3.3">𝑥</ci><ci id="S3.E13.m1.4.4.cmml" xref="S3.E13.m1.4.4">𝒟</ci></list></apply></apply></apply><apply id="S3.E13.m1.5.5.1.1.3.cmml" xref="S3.E13.m1.5.5.1.1.3"><plus id="S3.E13.m1.5.5.1.1.3.1.cmml" xref="S3.E13.m1.5.5.1.1.3.1"></plus><apply id="S3.E13.m1.5.5.1.1.3.2.cmml" xref="S3.E13.m1.5.5.1.1.3.2"><csymbol cd="ambiguous" id="S3.E13.m1.5.5.1.1.3.2.1.cmml" xref="S3.E13.m1.5.5.1.1.3.2">subscript</csymbol><apply id="S3.E13.m1.1.1.cmml" xref="S3.E13.m1.1.1"><ci id="S3.E13.m1.1.1.2.cmml" xref="S3.E13.m1.1.1.2">⏟</ci><apply id="S3.E13.m1.1.1.1.cmml" xref="S3.E13.m1.1.1.1"><times id="S3.E13.m1.1.1.1.2.cmml" xref="S3.E13.m1.1.1.1.2"></times><ci id="S3.E13.m1.1.1.1.3.cmml" xref="S3.E13.m1.1.1.1.3">𝔼</ci><apply id="S3.E13.m1.1.1.1.1.2.cmml" xref="S3.E13.m1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.1.1.1.1.2.1.cmml" xref="S3.E13.m1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S3.E13.m1.1.1.1.1.1.1.cmml" xref="S3.E13.m1.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.1.1.1.1.1.1.2.cmml" xref="S3.E13.m1.1.1.1.1.1.1.2">conditional</csymbol><apply id="S3.E13.m1.1.1.1.1.1.1.1.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1"><times id="S3.E13.m1.1.1.1.1.1.1.1.2.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.2"></times><apply id="S3.E13.m1.1.1.1.1.1.1.1.3.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S3.E13.m1.1.1.1.1.1.1.1.3.1.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="S3.E13.m1.1.1.1.1.1.1.1.3.2.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.3.2">𝕍</ci><ci id="S3.E13.m1.1.1.1.1.1.1.1.3.3.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.3.3">𝜃</ci></apply><apply id="S3.E13.m1.1.1.1.1.1.1.1.1.2.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.1.1.1.1.1.1.1.1.2.1.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="S3.E13.m1.1.1.1.1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply><ci id="S3.E13.m1.1.1.1.1.1.1.3.cmml" xref="S3.E13.m1.1.1.1.1.1.1.3">𝒟</ci></apply></apply></apply></apply><ci id="S3.E13.m1.5.5.1.1.3.2.2a.cmml" xref="S3.E13.m1.5.5.1.1.3.2.2"><mtext id="S3.E13.m1.5.5.1.1.3.2.2.cmml" mathsize="70%" xref="S3.E13.m1.5.5.1.1.3.2.2">aleatoric</mtext></ci></apply><apply id="S3.E13.m1.5.5.1.1.3.3.cmml" xref="S3.E13.m1.5.5.1.1.3.3"><csymbol cd="ambiguous" id="S3.E13.m1.5.5.1.1.3.3.1.cmml" xref="S3.E13.m1.5.5.1.1.3.3">subscript</csymbol><apply id="S3.E13.m1.2.2.cmml" xref="S3.E13.m1.2.2"><ci id="S3.E13.m1.2.2.2.cmml" xref="S3.E13.m1.2.2.2">⏟</ci><apply id="S3.E13.m1.2.2.1.cmml" xref="S3.E13.m1.2.2.1"><times id="S3.E13.m1.2.2.1.2.cmml" xref="S3.E13.m1.2.2.1.2"></times><ci id="S3.E13.m1.2.2.1.3.cmml" xref="S3.E13.m1.2.2.1.3">𝕍</ci><apply id="S3.E13.m1.2.2.1.1.2.cmml" xref="S3.E13.m1.2.2.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.2.2.1.1.2.1.cmml" xref="S3.E13.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="S3.E13.m1.2.2.1.1.1.1.cmml" xref="S3.E13.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.2.2.1.1.1.1.2.cmml" xref="S3.E13.m1.2.2.1.1.1.1.2">conditional</csymbol><apply id="S3.E13.m1.2.2.1.1.1.1.1.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1"><times id="S3.E13.m1.2.2.1.1.1.1.1.2.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.2"></times><apply id="S3.E13.m1.2.2.1.1.1.1.1.3.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S3.E13.m1.2.2.1.1.1.1.1.3.1.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.3">subscript</csymbol><ci id="S3.E13.m1.2.2.1.1.1.1.1.3.2.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.3.2">𝔼</ci><ci id="S3.E13.m1.2.2.1.1.1.1.1.3.3.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.3.3">𝜃</ci></apply><apply id="S3.E13.m1.2.2.1.1.1.1.1.1.2.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.2.2.1.1.1.1.1.1.2.1.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="S3.E13.m1.2.2.1.1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply><ci id="S3.E13.m1.2.2.1.1.1.1.3.cmml" xref="S3.E13.m1.2.2.1.1.1.1.3">𝒟</ci></apply></apply></apply></apply><ci id="S3.E13.m1.5.5.1.1.3.3.2a.cmml" xref="S3.E13.m1.5.5.1.1.3.3.2"><mtext id="S3.E13.m1.5.5.1.1.3.3.2.cmml" mathsize="70%" xref="S3.E13.m1.5.5.1.1.3.3.2">epistemic</mtext></ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E13.m1.5c">\mathbb{V}[Y|x,\mathcal{D}]=\underbrace{\mathbb{E}[\mathbb{V}_{\theta}[Y|x]|% \mathcal{D}]}_{\text{aleatoric}}+\underbrace{\mathbb{V}[\mathbb{E}_{\theta}[Y|% x]|\mathcal{D}]}_{\text{epistemic}}\;.</annotation><annotation encoding="application/x-llamapun" id="S3.E13.m1.5d">blackboard_V [ italic_Y | italic_x , caligraphic_D ] = under⏟ start_ARG blackboard_E [ blackboard_V start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ] | caligraphic_D ] end_ARG start_POSTSUBSCRIPT aleatoric end_POSTSUBSCRIPT + under⏟ start_ARG blackboard_V [ blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ] | caligraphic_D ] end_ARG start_POSTSUBSCRIPT epistemic end_POSTSUBSCRIPT .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(13)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S3.SS1.p1.9">The computational intractability related to the accurate calculation of <math alttext="p(\theta|\mathcal{D})" class="ltx_Math" display="inline" id="S3.SS1.p1.9.m1.1"><semantics id="S3.SS1.p1.9.m1.1a"><mrow id="S3.SS1.p1.9.m1.1.1" xref="S3.SS1.p1.9.m1.1.1.cmml"><mi id="S3.SS1.p1.9.m1.1.1.3" xref="S3.SS1.p1.9.m1.1.1.3.cmml">p</mi><mo id="S3.SS1.p1.9.m1.1.1.2" xref="S3.SS1.p1.9.m1.1.1.2.cmml">⁢</mo><mrow id="S3.SS1.p1.9.m1.1.1.1.1" xref="S3.SS1.p1.9.m1.1.1.1.1.1.cmml"><mo id="S3.SS1.p1.9.m1.1.1.1.1.2" stretchy="false" xref="S3.SS1.p1.9.m1.1.1.1.1.1.cmml">(</mo><mrow id="S3.SS1.p1.9.m1.1.1.1.1.1" xref="S3.SS1.p1.9.m1.1.1.1.1.1.cmml"><mi id="S3.SS1.p1.9.m1.1.1.1.1.1.2" xref="S3.SS1.p1.9.m1.1.1.1.1.1.2.cmml">θ</mi><mo fence="false" id="S3.SS1.p1.9.m1.1.1.1.1.1.1" xref="S3.SS1.p1.9.m1.1.1.1.1.1.1.cmml">|</mo><mi class="ltx_font_mathcaligraphic" id="S3.SS1.p1.9.m1.1.1.1.1.1.3" xref="S3.SS1.p1.9.m1.1.1.1.1.1.3.cmml">𝒟</mi></mrow><mo id="S3.SS1.p1.9.m1.1.1.1.1.3" stretchy="false" xref="S3.SS1.p1.9.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS1.p1.9.m1.1b"><apply id="S3.SS1.p1.9.m1.1.1.cmml" xref="S3.SS1.p1.9.m1.1.1"><times id="S3.SS1.p1.9.m1.1.1.2.cmml" xref="S3.SS1.p1.9.m1.1.1.2"></times><ci id="S3.SS1.p1.9.m1.1.1.3.cmml" xref="S3.SS1.p1.9.m1.1.1.3">𝑝</ci><apply id="S3.SS1.p1.9.m1.1.1.1.1.1.cmml" xref="S3.SS1.p1.9.m1.1.1.1.1"><csymbol cd="latexml" id="S3.SS1.p1.9.m1.1.1.1.1.1.1.cmml" xref="S3.SS1.p1.9.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.SS1.p1.9.m1.1.1.1.1.1.2.cmml" xref="S3.SS1.p1.9.m1.1.1.1.1.1.2">𝜃</ci><ci id="S3.SS1.p1.9.m1.1.1.1.1.1.3.cmml" xref="S3.SS1.p1.9.m1.1.1.1.1.1.3">𝒟</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS1.p1.9.m1.1c">p(\theta|\mathcal{D})</annotation><annotation encoding="application/x-llamapun" id="S3.SS1.p1.9.m1.1d">italic_p ( italic_θ | caligraphic_D )</annotation></semantics></math> and the averaging in Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.E12" title="Equation 12 ‣ 3.1 Bayesian Deep Learning ‣ 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">12</span></a>), has led to several approximation techniques, of which the most popular and effective is Deep Ensembles (DE) <cite class="ltx_cite ltx_citemacro_citep">(Lakshminarayanan et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib9" title="">2017</a>; Wild et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib17" title="">2024</a>)</cite>. However, DE relies on training multiple copies of the same network, which can be extremely costly in terms of training time and memory requirement. Other techniques exist to make Bayesian modeling more accessible, but, as a general rule of thumb, the cheaper the approximation the worst the estimation accuracy. Methods like Deep Ensembles or Hamiltonian Monte Carlo <cite class="ltx_cite ltx_citemacro_citep">(Izmailov et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib6" title="">2021</a>; Neal, <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib14" title="">2011</a>)</cite> sit on the expensive-accurate side of the spectrum, whereas variational inference methods like Monte Carlo Dropout <cite class="ltx_cite ltx_citemacro_citep">(Gal & Ghahramani, <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib3" title="">2016</a>)</cite> (and variants of this method) or the Laplace approximation <cite class="ltx_cite ltx_citemacro_citep">(MacKay, <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib12" title="">1992</a>)</cite> are easier to compute, but less precise.</p> </div> </section> <section class="ltx_subsection" id="S3.SS2"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">3.2 </span>Metrics and Calibration</h3> <div class="ltx_para" id="S3.SS2.p1"> <p class="ltx_p" id="S3.SS2.p1.1">The definition of calibration of Def. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem1" title="Definition 2.1. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.1</span></a> has been extensively used in the classification community, and has been introduced in the context of regression by <cite class="ltx_cite ltx_citemacro_citep">(Song et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib16" title="">2019</a>)</cite>. Other definitions of calibration include quantile calibration and variance calibration <cite class="ltx_cite ltx_citemacro_citep">(Levi et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib10" title="">2022</a>)</cite>. While these definitions are more practical to check, the notion of distribution calibration is more suited for theoretical purposes. Also, training a model by minimizing a proper scoring loss (like the negative log likelihood) will eventually yield calibrated models <cite class="ltx_cite ltx_citemacro_citep">(Gneiting & Raftery, <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib4" title="">2007</a>)</cite>. It can be proven that, by using a slightly stronger notion of variance calibration, Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a> and Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a> still hold. The discussion about such modification is deferred to appendix <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2" title="Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">B</span></a>.</p> </div> </section> <section class="ltx_subsection" id="S3.SS3"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">3.3 </span>Connection to <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite> </h3> <div class="ltx_para" id="S3.SS3.p1"> <p class="ltx_p" id="S3.SS3.p1.7">In the case of classification over <math alttext="K" class="ltx_Math" display="inline" id="S3.SS3.p1.1.m1.1"><semantics id="S3.SS3.p1.1.m1.1a"><mi id="S3.SS3.p1.1.m1.1.1" xref="S3.SS3.p1.1.m1.1.1.cmml">K</mi><annotation-xml encoding="MathML-Content" id="S3.SS3.p1.1.m1.1b"><ci id="S3.SS3.p1.1.m1.1.1.cmml" xref="S3.SS3.p1.1.m1.1.1">𝐾</ci></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p1.1.m1.1c">K</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p1.1.m1.1d">italic_K</annotation></semantics></math> classes, the output probability space <math alttext="\Delta_{\mathcal{Y}}" class="ltx_Math" display="inline" id="S3.SS3.p1.2.m2.1"><semantics id="S3.SS3.p1.2.m2.1a"><msub id="S3.SS3.p1.2.m2.1.1" xref="S3.SS3.p1.2.m2.1.1.cmml"><mi id="S3.SS3.p1.2.m2.1.1.2" mathvariant="normal" xref="S3.SS3.p1.2.m2.1.1.2.cmml">Δ</mi><mi class="ltx_font_mathcaligraphic" id="S3.SS3.p1.2.m2.1.1.3" xref="S3.SS3.p1.2.m2.1.1.3.cmml">𝒴</mi></msub><annotation-xml encoding="MathML-Content" id="S3.SS3.p1.2.m2.1b"><apply id="S3.SS3.p1.2.m2.1.1.cmml" xref="S3.SS3.p1.2.m2.1.1"><csymbol cd="ambiguous" id="S3.SS3.p1.2.m2.1.1.1.cmml" xref="S3.SS3.p1.2.m2.1.1">subscript</csymbol><ci id="S3.SS3.p1.2.m2.1.1.2.cmml" xref="S3.SS3.p1.2.m2.1.1.2">Δ</ci><ci id="S3.SS3.p1.2.m2.1.1.3.cmml" xref="S3.SS3.p1.2.m2.1.1.3">𝒴</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p1.2.m2.1c">\Delta_{\mathcal{Y}}</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p1.2.m2.1d">roman_Δ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT</annotation></semantics></math> is just the <math alttext="K-1" class="ltx_Math" display="inline" id="S3.SS3.p1.3.m3.1"><semantics id="S3.SS3.p1.3.m3.1a"><mrow id="S3.SS3.p1.3.m3.1.1" xref="S3.SS3.p1.3.m3.1.1.cmml"><mi id="S3.SS3.p1.3.m3.1.1.2" xref="S3.SS3.p1.3.m3.1.1.2.cmml">K</mi><mo id="S3.SS3.p1.3.m3.1.1.1" xref="S3.SS3.p1.3.m3.1.1.1.cmml">−</mo><mn id="S3.SS3.p1.3.m3.1.1.3" xref="S3.SS3.p1.3.m3.1.1.3.cmml">1</mn></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p1.3.m3.1b"><apply id="S3.SS3.p1.3.m3.1.1.cmml" xref="S3.SS3.p1.3.m3.1.1"><minus id="S3.SS3.p1.3.m3.1.1.1.cmml" xref="S3.SS3.p1.3.m3.1.1.1"></minus><ci id="S3.SS3.p1.3.m3.1.1.2.cmml" xref="S3.SS3.p1.3.m3.1.1.2">𝐾</ci><cn id="S3.SS3.p1.3.m3.1.1.3.cmml" type="integer" xref="S3.SS3.p1.3.m3.1.1.3">1</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p1.3.m3.1c">K-1</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p1.3.m3.1d">italic_K - 1</annotation></semantics></math> dimensional probability simplex, so that <math alttext="p_{\theta}(y|x)" class="ltx_Math" display="inline" id="S3.SS3.p1.4.m4.1"><semantics id="S3.SS3.p1.4.m4.1a"><mrow id="S3.SS3.p1.4.m4.1.1" xref="S3.SS3.p1.4.m4.1.1.cmml"><msub id="S3.SS3.p1.4.m4.1.1.3" xref="S3.SS3.p1.4.m4.1.1.3.cmml"><mi id="S3.SS3.p1.4.m4.1.1.3.2" xref="S3.SS3.p1.4.m4.1.1.3.2.cmml">p</mi><mi id="S3.SS3.p1.4.m4.1.1.3.3" xref="S3.SS3.p1.4.m4.1.1.3.3.cmml">θ</mi></msub><mo id="S3.SS3.p1.4.m4.1.1.2" xref="S3.SS3.p1.4.m4.1.1.2.cmml">⁢</mo><mrow id="S3.SS3.p1.4.m4.1.1.1.1" xref="S3.SS3.p1.4.m4.1.1.1.1.1.cmml"><mo id="S3.SS3.p1.4.m4.1.1.1.1.2" stretchy="false" xref="S3.SS3.p1.4.m4.1.1.1.1.1.cmml">(</mo><mrow id="S3.SS3.p1.4.m4.1.1.1.1.1" xref="S3.SS3.p1.4.m4.1.1.1.1.1.cmml"><mi id="S3.SS3.p1.4.m4.1.1.1.1.1.2" xref="S3.SS3.p1.4.m4.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.SS3.p1.4.m4.1.1.1.1.1.1" xref="S3.SS3.p1.4.m4.1.1.1.1.1.1.cmml">|</mo><mi id="S3.SS3.p1.4.m4.1.1.1.1.1.3" xref="S3.SS3.p1.4.m4.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.SS3.p1.4.m4.1.1.1.1.3" stretchy="false" xref="S3.SS3.p1.4.m4.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p1.4.m4.1b"><apply id="S3.SS3.p1.4.m4.1.1.cmml" xref="S3.SS3.p1.4.m4.1.1"><times id="S3.SS3.p1.4.m4.1.1.2.cmml" xref="S3.SS3.p1.4.m4.1.1.2"></times><apply id="S3.SS3.p1.4.m4.1.1.3.cmml" xref="S3.SS3.p1.4.m4.1.1.3"><csymbol cd="ambiguous" id="S3.SS3.p1.4.m4.1.1.3.1.cmml" xref="S3.SS3.p1.4.m4.1.1.3">subscript</csymbol><ci id="S3.SS3.p1.4.m4.1.1.3.2.cmml" xref="S3.SS3.p1.4.m4.1.1.3.2">𝑝</ci><ci id="S3.SS3.p1.4.m4.1.1.3.3.cmml" xref="S3.SS3.p1.4.m4.1.1.3.3">𝜃</ci></apply><apply id="S3.SS3.p1.4.m4.1.1.1.1.1.cmml" xref="S3.SS3.p1.4.m4.1.1.1.1"><csymbol cd="latexml" id="S3.SS3.p1.4.m4.1.1.1.1.1.1.cmml" xref="S3.SS3.p1.4.m4.1.1.1.1.1.1">conditional</csymbol><ci id="S3.SS3.p1.4.m4.1.1.1.1.1.2.cmml" xref="S3.SS3.p1.4.m4.1.1.1.1.1.2">𝑦</ci><ci id="S3.SS3.p1.4.m4.1.1.1.1.1.3.cmml" xref="S3.SS3.p1.4.m4.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p1.4.m4.1c">p_{\theta}(y|x)</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p1.4.m4.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x )</annotation></semantics></math> is just a vector in <math alttext="\mathbb{R}^{K}" class="ltx_Math" display="inline" id="S3.SS3.p1.5.m5.1"><semantics id="S3.SS3.p1.5.m5.1a"><msup id="S3.SS3.p1.5.m5.1.1" xref="S3.SS3.p1.5.m5.1.1.cmml"><mi id="S3.SS3.p1.5.m5.1.1.2" xref="S3.SS3.p1.5.m5.1.1.2.cmml">ℝ</mi><mi id="S3.SS3.p1.5.m5.1.1.3" xref="S3.SS3.p1.5.m5.1.1.3.cmml">K</mi></msup><annotation-xml encoding="MathML-Content" id="S3.SS3.p1.5.m5.1b"><apply id="S3.SS3.p1.5.m5.1.1.cmml" xref="S3.SS3.p1.5.m5.1.1"><csymbol cd="ambiguous" id="S3.SS3.p1.5.m5.1.1.1.cmml" xref="S3.SS3.p1.5.m5.1.1">superscript</csymbol><ci id="S3.SS3.p1.5.m5.1.1.2.cmml" xref="S3.SS3.p1.5.m5.1.1.2">ℝ</ci><ci id="S3.SS3.p1.5.m5.1.1.3.cmml" xref="S3.SS3.p1.5.m5.1.1.3">𝐾</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p1.5.m5.1c">\mathbb{R}^{K}</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p1.5.m5.1d">blackboard_R start_POSTSUPERSCRIPT italic_K end_POSTSUPERSCRIPT</annotation></semantics></math> the components of which are non-negative and sum up to one. Similarly, the joint probability <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S3.SS3.p1.6.m6.2"><semantics id="S3.SS3.p1.6.m6.2a"><mrow id="S3.SS3.p1.6.m6.2.2" xref="S3.SS3.p1.6.m6.2.2.cmml"><msub id="S3.SS3.p1.6.m6.2.2.4" xref="S3.SS3.p1.6.m6.2.2.4.cmml"><mi id="S3.SS3.p1.6.m6.2.2.4.2" xref="S3.SS3.p1.6.m6.2.2.4.2.cmml">p</mi><mi id="S3.SS3.p1.6.m6.2.2.4.3" xref="S3.SS3.p1.6.m6.2.2.4.3.cmml">θ</mi></msub><mo id="S3.SS3.p1.6.m6.2.2.3" xref="S3.SS3.p1.6.m6.2.2.3.cmml">⁢</mo><mrow id="S3.SS3.p1.6.m6.2.2.2.2" xref="S3.SS3.p1.6.m6.2.2.2.3.cmml"><mo id="S3.SS3.p1.6.m6.2.2.2.2.3" stretchy="false" xref="S3.SS3.p1.6.m6.2.2.2.3.cmml">(</mo><msub id="S3.SS3.p1.6.m6.1.1.1.1.1" xref="S3.SS3.p1.6.m6.1.1.1.1.1.cmml"><mi id="S3.SS3.p1.6.m6.1.1.1.1.1.2" xref="S3.SS3.p1.6.m6.1.1.1.1.1.2.cmml">y</mi><mn id="S3.SS3.p1.6.m6.1.1.1.1.1.3" xref="S3.SS3.p1.6.m6.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.SS3.p1.6.m6.2.2.2.2.4" xref="S3.SS3.p1.6.m6.2.2.2.3.cmml">,</mo><mrow id="S3.SS3.p1.6.m6.2.2.2.2.2" xref="S3.SS3.p1.6.m6.2.2.2.2.2.cmml"><msub id="S3.SS3.p1.6.m6.2.2.2.2.2.2" xref="S3.SS3.p1.6.m6.2.2.2.2.2.2.cmml"><mi id="S3.SS3.p1.6.m6.2.2.2.2.2.2.2" xref="S3.SS3.p1.6.m6.2.2.2.2.2.2.2.cmml">y</mi><mn id="S3.SS3.p1.6.m6.2.2.2.2.2.2.3" xref="S3.SS3.p1.6.m6.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S3.SS3.p1.6.m6.2.2.2.2.2.1" xref="S3.SS3.p1.6.m6.2.2.2.2.2.1.cmml">|</mo><mi id="S3.SS3.p1.6.m6.2.2.2.2.2.3" xref="S3.SS3.p1.6.m6.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S3.SS3.p1.6.m6.2.2.2.2.5" stretchy="false" xref="S3.SS3.p1.6.m6.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p1.6.m6.2b"><apply id="S3.SS3.p1.6.m6.2.2.cmml" xref="S3.SS3.p1.6.m6.2.2"><times id="S3.SS3.p1.6.m6.2.2.3.cmml" xref="S3.SS3.p1.6.m6.2.2.3"></times><apply id="S3.SS3.p1.6.m6.2.2.4.cmml" xref="S3.SS3.p1.6.m6.2.2.4"><csymbol cd="ambiguous" id="S3.SS3.p1.6.m6.2.2.4.1.cmml" xref="S3.SS3.p1.6.m6.2.2.4">subscript</csymbol><ci id="S3.SS3.p1.6.m6.2.2.4.2.cmml" xref="S3.SS3.p1.6.m6.2.2.4.2">𝑝</ci><ci id="S3.SS3.p1.6.m6.2.2.4.3.cmml" xref="S3.SS3.p1.6.m6.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S3.SS3.p1.6.m6.2.2.2.3.cmml" xref="S3.SS3.p1.6.m6.2.2.2.2"><apply id="S3.SS3.p1.6.m6.1.1.1.1.1.cmml" xref="S3.SS3.p1.6.m6.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.SS3.p1.6.m6.1.1.1.1.1.1.cmml" xref="S3.SS3.p1.6.m6.1.1.1.1.1">subscript</csymbol><ci id="S3.SS3.p1.6.m6.1.1.1.1.1.2.cmml" xref="S3.SS3.p1.6.m6.1.1.1.1.1.2">𝑦</ci><cn id="S3.SS3.p1.6.m6.1.1.1.1.1.3.cmml" type="integer" xref="S3.SS3.p1.6.m6.1.1.1.1.1.3">1</cn></apply><apply id="S3.SS3.p1.6.m6.2.2.2.2.2.cmml" xref="S3.SS3.p1.6.m6.2.2.2.2.2"><csymbol cd="latexml" id="S3.SS3.p1.6.m6.2.2.2.2.2.1.cmml" xref="S3.SS3.p1.6.m6.2.2.2.2.2.1">conditional</csymbol><apply id="S3.SS3.p1.6.m6.2.2.2.2.2.2.cmml" xref="S3.SS3.p1.6.m6.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.SS3.p1.6.m6.2.2.2.2.2.2.1.cmml" xref="S3.SS3.p1.6.m6.2.2.2.2.2.2">subscript</csymbol><ci id="S3.SS3.p1.6.m6.2.2.2.2.2.2.2.cmml" xref="S3.SS3.p1.6.m6.2.2.2.2.2.2.2">𝑦</ci><cn id="S3.SS3.p1.6.m6.2.2.2.2.2.2.3.cmml" type="integer" xref="S3.SS3.p1.6.m6.2.2.2.2.2.2.3">2</cn></apply><ci id="S3.SS3.p1.6.m6.2.2.2.2.2.3.cmml" xref="S3.SS3.p1.6.m6.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p1.6.m6.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p1.6.m6.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> can be interpreted as a stochastic <math alttext="K\times K" class="ltx_Math" display="inline" id="S3.SS3.p1.7.m7.1"><semantics id="S3.SS3.p1.7.m7.1a"><mrow id="S3.SS3.p1.7.m7.1.1" xref="S3.SS3.p1.7.m7.1.1.cmml"><mi id="S3.SS3.p1.7.m7.1.1.2" xref="S3.SS3.p1.7.m7.1.1.2.cmml">K</mi><mo id="S3.SS3.p1.7.m7.1.1.1" lspace="0.222em" rspace="0.222em" xref="S3.SS3.p1.7.m7.1.1.1.cmml">×</mo><mi id="S3.SS3.p1.7.m7.1.1.3" xref="S3.SS3.p1.7.m7.1.1.3.cmml">K</mi></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p1.7.m7.1b"><apply id="S3.SS3.p1.7.m7.1.1.cmml" xref="S3.SS3.p1.7.m7.1.1"><times id="S3.SS3.p1.7.m7.1.1.1.cmml" xref="S3.SS3.p1.7.m7.1.1.1"></times><ci id="S3.SS3.p1.7.m7.1.1.2.cmml" xref="S3.SS3.p1.7.m7.1.1.2">𝐾</ci><ci id="S3.SS3.p1.7.m7.1.1.3.cmml" xref="S3.SS3.p1.7.m7.1.1.3">𝐾</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p1.7.m7.1c">K\times K</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p1.7.m7.1d">italic_K × italic_K</annotation></semantics></math> matrix. To exploit this, <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite> define a <span class="ltx_text ltx_font_italic" id="S3.SS3.p1.7.1">covariance operator</span> to measure the difference between the model, which may include correlations, and the expected ground truth where the outputs are uncorrelated.</p> </div> <div class="ltx_theorem ltx_theorem_definition" id="S3.Thmtheorem1"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem1.1.1.1">Definition 3.1</span></span><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem1.2.2">.</span> </h6> <div class="ltx_para" id="S3.Thmtheorem1.p1"> <p class="ltx_p" id="S3.Thmtheorem1.p1.4">Let <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S3.Thmtheorem1.p1.1.m1.2"><semantics id="S3.Thmtheorem1.p1.1.m1.2a"><mrow id="S3.Thmtheorem1.p1.1.m1.2.2" xref="S3.Thmtheorem1.p1.1.m1.2.2.cmml"><msub id="S3.Thmtheorem1.p1.1.m1.2.2.4" xref="S3.Thmtheorem1.p1.1.m1.2.2.4.cmml"><mi id="S3.Thmtheorem1.p1.1.m1.2.2.4.2" xref="S3.Thmtheorem1.p1.1.m1.2.2.4.2.cmml">p</mi><mi id="S3.Thmtheorem1.p1.1.m1.2.2.4.3" xref="S3.Thmtheorem1.p1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="S3.Thmtheorem1.p1.1.m1.2.2.3" xref="S3.Thmtheorem1.p1.1.m1.2.2.3.cmml">⁢</mo><mrow id="S3.Thmtheorem1.p1.1.m1.2.2.2.2" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.3.cmml"><mo id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.3" stretchy="false" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.3.cmml">(</mo><msub id="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1" xref="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.cmml"><mi id="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.2" xref="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.3" xref="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.4" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.3.cmml">,</mo><mrow id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.cmml"><msub id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.cmml"><mi id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.2" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.3" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.1" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.3" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.5" stretchy="false" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem1.p1.1.m1.2b"><apply id="S3.Thmtheorem1.p1.1.m1.2.2.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2"><times id="S3.Thmtheorem1.p1.1.m1.2.2.3.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.3"></times><apply id="S3.Thmtheorem1.p1.1.m1.2.2.4.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.4"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.1.m1.2.2.4.1.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.4">subscript</csymbol><ci id="S3.Thmtheorem1.p1.1.m1.2.2.4.2.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.4.2">𝑝</ci><ci id="S3.Thmtheorem1.p1.1.m1.2.2.4.3.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S3.Thmtheorem1.p1.1.m1.2.2.2.3.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2"><apply id="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="S3.Thmtheorem1.p1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.1.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.1.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.2.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.3.cmml" xref="S3.Thmtheorem1.p1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem1.p1.1.m1.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem1.p1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> be a model trained to predict pairs such that <math alttext="p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="S3.Thmtheorem1.p1.2.m2.1"><semantics id="S3.Thmtheorem1.p1.2.m2.1a"><mrow id="S3.Thmtheorem1.p1.2.m2.1.1" xref="S3.Thmtheorem1.p1.2.m2.1.1.cmml"><msub id="S3.Thmtheorem1.p1.2.m2.1.1.3" xref="S3.Thmtheorem1.p1.2.m2.1.1.3.cmml"><mi id="S3.Thmtheorem1.p1.2.m2.1.1.3.2" xref="S3.Thmtheorem1.p1.2.m2.1.1.3.2.cmml">p</mi><mi id="S3.Thmtheorem1.p1.2.m2.1.1.3.3" xref="S3.Thmtheorem1.p1.2.m2.1.1.3.3.cmml">θ</mi></msub><mo id="S3.Thmtheorem1.p1.2.m2.1.1.2" xref="S3.Thmtheorem1.p1.2.m2.1.1.2.cmml">⁢</mo><mrow id="S3.Thmtheorem1.p1.2.m2.1.1.1.1" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.cmml"><mo id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.2" stretchy="false" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.cmml">(</mo><mrow id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.cmml"><msub id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.cmml"><mi id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.2" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.2.cmml">y</mi><mn id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.3" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.1" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.1.cmml">|</mo><mi id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.3" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.3" stretchy="false" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem1.p1.2.m2.1b"><apply id="S3.Thmtheorem1.p1.2.m2.1.1.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1"><times id="S3.Thmtheorem1.p1.2.m2.1.1.2.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.2"></times><apply id="S3.Thmtheorem1.p1.2.m2.1.1.3.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.3"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.2.m2.1.1.3.1.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.3">subscript</csymbol><ci id="S3.Thmtheorem1.p1.2.m2.1.1.3.2.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.3.2">𝑝</ci><ci id="S3.Thmtheorem1.p1.2.m2.1.1.3.3.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.3.3">𝜃</ci></apply><apply id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1"><csymbol cd="latexml" id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.1">conditional</csymbol><apply id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.1.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2">subscript</csymbol><ci id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.2.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.2">𝑦</ci><cn id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.3.cmml" type="integer" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.2.3">1</cn></apply><ci id="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.3.cmml" xref="S3.Thmtheorem1.p1.2.m2.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem1.p1.2.m2.1c">p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem1.p1.2.m2.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> and <math alttext="p_{\theta}(y_{2}|x)" class="ltx_Math" display="inline" id="S3.Thmtheorem1.p1.3.m3.1"><semantics id="S3.Thmtheorem1.p1.3.m3.1a"><mrow id="S3.Thmtheorem1.p1.3.m3.1.1" xref="S3.Thmtheorem1.p1.3.m3.1.1.cmml"><msub id="S3.Thmtheorem1.p1.3.m3.1.1.3" xref="S3.Thmtheorem1.p1.3.m3.1.1.3.cmml"><mi id="S3.Thmtheorem1.p1.3.m3.1.1.3.2" xref="S3.Thmtheorem1.p1.3.m3.1.1.3.2.cmml">p</mi><mi id="S3.Thmtheorem1.p1.3.m3.1.1.3.3" xref="S3.Thmtheorem1.p1.3.m3.1.1.3.3.cmml">θ</mi></msub><mo id="S3.Thmtheorem1.p1.3.m3.1.1.2" xref="S3.Thmtheorem1.p1.3.m3.1.1.2.cmml">⁢</mo><mrow id="S3.Thmtheorem1.p1.3.m3.1.1.1.1" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml"><mo id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.2" stretchy="false" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml">(</mo><mrow id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml"><msub id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.cmml"><mi id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.2" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.2.cmml">y</mi><mn id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.3" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.1" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.1.cmml">|</mo><mi id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.3" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.3" stretchy="false" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem1.p1.3.m3.1b"><apply id="S3.Thmtheorem1.p1.3.m3.1.1.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1"><times id="S3.Thmtheorem1.p1.3.m3.1.1.2.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.2"></times><apply id="S3.Thmtheorem1.p1.3.m3.1.1.3.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.3"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.3.m3.1.1.3.1.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.3">subscript</csymbol><ci id="S3.Thmtheorem1.p1.3.m3.1.1.3.2.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.3.2">𝑝</ci><ci id="S3.Thmtheorem1.p1.3.m3.1.1.3.3.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.3.3">𝜃</ci></apply><apply id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1"><csymbol cd="latexml" id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.1">conditional</csymbol><apply id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.1.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2">subscript</csymbol><ci id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.2.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.2">𝑦</ci><cn id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.3.cmml" type="integer" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.2.3">2</cn></apply><ci id="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.3.cmml" xref="S3.Thmtheorem1.p1.3.m3.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem1.p1.3.m3.1c">p_{\theta}(y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem1.p1.3.m3.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> are its marginal distributions. Define the covariance operator <math alttext="\Sigma^{\theta}_{y_{1},y_{2}}" class="ltx_Math" display="inline" id="S3.Thmtheorem1.p1.4.m4.2"><semantics id="S3.Thmtheorem1.p1.4.m4.2a"><msubsup id="S3.Thmtheorem1.p1.4.m4.2.3" xref="S3.Thmtheorem1.p1.4.m4.2.3.cmml"><mi id="S3.Thmtheorem1.p1.4.m4.2.3.2.2" mathvariant="normal" xref="S3.Thmtheorem1.p1.4.m4.2.3.2.2.cmml">Σ</mi><mrow id="S3.Thmtheorem1.p1.4.m4.2.2.2.2" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.3.cmml"><msub id="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1" xref="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.cmml"><mi id="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.2" xref="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.2.cmml">y</mi><mn id="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.3" xref="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.3" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.3.cmml">,</mo><msub id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.cmml"><mi id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.2" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.2.cmml">y</mi><mn id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.3" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.3.cmml">2</mn></msub></mrow><mi id="S3.Thmtheorem1.p1.4.m4.2.3.2.3" xref="S3.Thmtheorem1.p1.4.m4.2.3.2.3.cmml">θ</mi></msubsup><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem1.p1.4.m4.2b"><apply id="S3.Thmtheorem1.p1.4.m4.2.3.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.3"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.4.m4.2.3.1.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.3">subscript</csymbol><apply id="S3.Thmtheorem1.p1.4.m4.2.3.2.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.3"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.4.m4.2.3.2.1.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.3">superscript</csymbol><ci id="S3.Thmtheorem1.p1.4.m4.2.3.2.2.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.3.2.2">Σ</ci><ci id="S3.Thmtheorem1.p1.4.m4.2.3.2.3.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.3.2.3">𝜃</ci></apply><list id="S3.Thmtheorem1.p1.4.m4.2.2.2.3.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2"><apply id="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1">subscript</csymbol><ci id="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.2">𝑦</ci><cn id="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.3.cmml" type="integer" xref="S3.Thmtheorem1.p1.4.m4.1.1.1.1.1.3">1</cn></apply><apply id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.1.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2">subscript</csymbol><ci id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.2.cmml" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.2">𝑦</ci><cn id="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.3.cmml" type="integer" xref="S3.Thmtheorem1.p1.4.m4.2.2.2.2.2.3">2</cn></apply></list></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem1.p1.4.m4.2c">\Sigma^{\theta}_{y_{1},y_{2}}</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem1.p1.4.m4.2d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT end_POSTSUBSCRIPT</annotation></semantics></math> as:</p> <table class="ltx_equation ltx_eqn_table" id="S3.E14"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\Sigma^{\theta}_{y_{1},y_{2}}(x)\triangleq p_{\theta}(y_{1},y_{2}|x)-p_{\theta% }(y_{1}|x)\cdot p_{\theta}(y_{2}|x)" class="ltx_Math" display="block" id="S3.E14.m1.7"><semantics id="S3.E14.m1.7a"><mrow id="S3.E14.m1.7.7" xref="S3.E14.m1.7.7.cmml"><mrow id="S3.E14.m1.7.7.6" xref="S3.E14.m1.7.7.6.cmml"><msubsup id="S3.E14.m1.7.7.6.2" xref="S3.E14.m1.7.7.6.2.cmml"><mi id="S3.E14.m1.7.7.6.2.2.2" mathvariant="normal" xref="S3.E14.m1.7.7.6.2.2.2.cmml">Σ</mi><mrow id="S3.E14.m1.2.2.2.2" xref="S3.E14.m1.2.2.2.3.cmml"><msub id="S3.E14.m1.1.1.1.1.1" xref="S3.E14.m1.1.1.1.1.1.cmml"><mi id="S3.E14.m1.1.1.1.1.1.2" xref="S3.E14.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S3.E14.m1.1.1.1.1.1.3" xref="S3.E14.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.E14.m1.2.2.2.2.3" xref="S3.E14.m1.2.2.2.3.cmml">,</mo><msub id="S3.E14.m1.2.2.2.2.2" xref="S3.E14.m1.2.2.2.2.2.cmml"><mi id="S3.E14.m1.2.2.2.2.2.2" xref="S3.E14.m1.2.2.2.2.2.2.cmml">y</mi><mn id="S3.E14.m1.2.2.2.2.2.3" xref="S3.E14.m1.2.2.2.2.2.3.cmml">2</mn></msub></mrow><mi id="S3.E14.m1.7.7.6.2.2.3" xref="S3.E14.m1.7.7.6.2.2.3.cmml">θ</mi></msubsup><mo id="S3.E14.m1.7.7.6.1" xref="S3.E14.m1.7.7.6.1.cmml">⁢</mo><mrow id="S3.E14.m1.7.7.6.3.2" xref="S3.E14.m1.7.7.6.cmml"><mo id="S3.E14.m1.7.7.6.3.2.1" stretchy="false" xref="S3.E14.m1.7.7.6.cmml">(</mo><mi id="S3.E14.m1.3.3" xref="S3.E14.m1.3.3.cmml">x</mi><mo id="S3.E14.m1.7.7.6.3.2.2" stretchy="false" xref="S3.E14.m1.7.7.6.cmml">)</mo></mrow></mrow><mo id="S3.E14.m1.7.7.5" xref="S3.E14.m1.7.7.5.cmml">≜</mo><mrow id="S3.E14.m1.7.7.4" xref="S3.E14.m1.7.7.4.cmml"><mrow id="S3.E14.m1.5.5.2.2" xref="S3.E14.m1.5.5.2.2.cmml"><msub id="S3.E14.m1.5.5.2.2.4" xref="S3.E14.m1.5.5.2.2.4.cmml"><mi id="S3.E14.m1.5.5.2.2.4.2" xref="S3.E14.m1.5.5.2.2.4.2.cmml">p</mi><mi id="S3.E14.m1.5.5.2.2.4.3" xref="S3.E14.m1.5.5.2.2.4.3.cmml">θ</mi></msub><mo id="S3.E14.m1.5.5.2.2.3" xref="S3.E14.m1.5.5.2.2.3.cmml">⁢</mo><mrow id="S3.E14.m1.5.5.2.2.2.2" xref="S3.E14.m1.5.5.2.2.2.3.cmml"><mo id="S3.E14.m1.5.5.2.2.2.2.3" stretchy="false" xref="S3.E14.m1.5.5.2.2.2.3.cmml">(</mo><msub id="S3.E14.m1.4.4.1.1.1.1.1" xref="S3.E14.m1.4.4.1.1.1.1.1.cmml"><mi id="S3.E14.m1.4.4.1.1.1.1.1.2" xref="S3.E14.m1.4.4.1.1.1.1.1.2.cmml">y</mi><mn id="S3.E14.m1.4.4.1.1.1.1.1.3" xref="S3.E14.m1.4.4.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.E14.m1.5.5.2.2.2.2.4" xref="S3.E14.m1.5.5.2.2.2.3.cmml">,</mo><mrow id="S3.E14.m1.5.5.2.2.2.2.2" xref="S3.E14.m1.5.5.2.2.2.2.2.cmml"><msub id="S3.E14.m1.5.5.2.2.2.2.2.2" xref="S3.E14.m1.5.5.2.2.2.2.2.2.cmml"><mi id="S3.E14.m1.5.5.2.2.2.2.2.2.2" xref="S3.E14.m1.5.5.2.2.2.2.2.2.2.cmml">y</mi><mn id="S3.E14.m1.5.5.2.2.2.2.2.2.3" xref="S3.E14.m1.5.5.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S3.E14.m1.5.5.2.2.2.2.2.1" xref="S3.E14.m1.5.5.2.2.2.2.2.1.cmml">|</mo><mi id="S3.E14.m1.5.5.2.2.2.2.2.3" xref="S3.E14.m1.5.5.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S3.E14.m1.5.5.2.2.2.2.5" stretchy="false" xref="S3.E14.m1.5.5.2.2.2.3.cmml">)</mo></mrow></mrow><mo id="S3.E14.m1.7.7.4.5" xref="S3.E14.m1.7.7.4.5.cmml">−</mo><mrow id="S3.E14.m1.7.7.4.4" xref="S3.E14.m1.7.7.4.4.cmml"><mrow id="S3.E14.m1.6.6.3.3.1" xref="S3.E14.m1.6.6.3.3.1.cmml"><mrow id="S3.E14.m1.6.6.3.3.1.1" xref="S3.E14.m1.6.6.3.3.1.1.cmml"><msub id="S3.E14.m1.6.6.3.3.1.1.3" xref="S3.E14.m1.6.6.3.3.1.1.3.cmml"><mi id="S3.E14.m1.6.6.3.3.1.1.3.2" xref="S3.E14.m1.6.6.3.3.1.1.3.2.cmml">p</mi><mi id="S3.E14.m1.6.6.3.3.1.1.3.3" xref="S3.E14.m1.6.6.3.3.1.1.3.3.cmml">θ</mi></msub><mo id="S3.E14.m1.6.6.3.3.1.1.2" xref="S3.E14.m1.6.6.3.3.1.1.2.cmml">⁢</mo><mrow id="S3.E14.m1.6.6.3.3.1.1.1.1" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.cmml"><mo id="S3.E14.m1.6.6.3.3.1.1.1.1.2" stretchy="false" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.cmml">(</mo><mrow id="S3.E14.m1.6.6.3.3.1.1.1.1.1" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.cmml"><msub id="S3.E14.m1.6.6.3.3.1.1.1.1.1.2" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.cmml"><mi id="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.2" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.2.cmml">y</mi><mn id="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.3" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S3.E14.m1.6.6.3.3.1.1.1.1.1.1" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.1.cmml">|</mo><mi id="S3.E14.m1.6.6.3.3.1.1.1.1.1.3" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.E14.m1.6.6.3.3.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S3.E14.m1.6.6.3.3.1.2" rspace="0.222em" xref="S3.E14.m1.6.6.3.3.1.2.cmml">⋅</mo><msub id="S3.E14.m1.6.6.3.3.1.3" xref="S3.E14.m1.6.6.3.3.1.3.cmml"><mi id="S3.E14.m1.6.6.3.3.1.3.2" xref="S3.E14.m1.6.6.3.3.1.3.2.cmml">p</mi><mi id="S3.E14.m1.6.6.3.3.1.3.3" xref="S3.E14.m1.6.6.3.3.1.3.3.cmml">θ</mi></msub></mrow><mo id="S3.E14.m1.7.7.4.4.3" xref="S3.E14.m1.7.7.4.4.3.cmml">⁢</mo><mrow id="S3.E14.m1.7.7.4.4.2.1" xref="S3.E14.m1.7.7.4.4.2.1.1.cmml"><mo id="S3.E14.m1.7.7.4.4.2.1.2" stretchy="false" xref="S3.E14.m1.7.7.4.4.2.1.1.cmml">(</mo><mrow id="S3.E14.m1.7.7.4.4.2.1.1" xref="S3.E14.m1.7.7.4.4.2.1.1.cmml"><msub id="S3.E14.m1.7.7.4.4.2.1.1.2" xref="S3.E14.m1.7.7.4.4.2.1.1.2.cmml"><mi id="S3.E14.m1.7.7.4.4.2.1.1.2.2" xref="S3.E14.m1.7.7.4.4.2.1.1.2.2.cmml">y</mi><mn id="S3.E14.m1.7.7.4.4.2.1.1.2.3" xref="S3.E14.m1.7.7.4.4.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S3.E14.m1.7.7.4.4.2.1.1.1" xref="S3.E14.m1.7.7.4.4.2.1.1.1.cmml">|</mo><mi id="S3.E14.m1.7.7.4.4.2.1.1.3" xref="S3.E14.m1.7.7.4.4.2.1.1.3.cmml">x</mi></mrow><mo id="S3.E14.m1.7.7.4.4.2.1.3" stretchy="false" xref="S3.E14.m1.7.7.4.4.2.1.1.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.E14.m1.7b"><apply id="S3.E14.m1.7.7.cmml" xref="S3.E14.m1.7.7"><ci id="S3.E14.m1.7.7.5.cmml" xref="S3.E14.m1.7.7.5">≜</ci><apply id="S3.E14.m1.7.7.6.cmml" xref="S3.E14.m1.7.7.6"><times id="S3.E14.m1.7.7.6.1.cmml" xref="S3.E14.m1.7.7.6.1"></times><apply id="S3.E14.m1.7.7.6.2.cmml" xref="S3.E14.m1.7.7.6.2"><csymbol cd="ambiguous" id="S3.E14.m1.7.7.6.2.1.cmml" xref="S3.E14.m1.7.7.6.2">subscript</csymbol><apply id="S3.E14.m1.7.7.6.2.2.cmml" xref="S3.E14.m1.7.7.6.2"><csymbol cd="ambiguous" id="S3.E14.m1.7.7.6.2.2.1.cmml" xref="S3.E14.m1.7.7.6.2">superscript</csymbol><ci id="S3.E14.m1.7.7.6.2.2.2.cmml" xref="S3.E14.m1.7.7.6.2.2.2">Σ</ci><ci id="S3.E14.m1.7.7.6.2.2.3.cmml" xref="S3.E14.m1.7.7.6.2.2.3">𝜃</ci></apply><list id="S3.E14.m1.2.2.2.3.cmml" xref="S3.E14.m1.2.2.2.2"><apply id="S3.E14.m1.1.1.1.1.1.cmml" xref="S3.E14.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.E14.m1.1.1.1.1.1.1.cmml" xref="S3.E14.m1.1.1.1.1.1">subscript</csymbol><ci id="S3.E14.m1.1.1.1.1.1.2.cmml" xref="S3.E14.m1.1.1.1.1.1.2">𝑦</ci><cn id="S3.E14.m1.1.1.1.1.1.3.cmml" type="integer" xref="S3.E14.m1.1.1.1.1.1.3">1</cn></apply><apply id="S3.E14.m1.2.2.2.2.2.cmml" xref="S3.E14.m1.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.E14.m1.2.2.2.2.2.1.cmml" xref="S3.E14.m1.2.2.2.2.2">subscript</csymbol><ci id="S3.E14.m1.2.2.2.2.2.2.cmml" xref="S3.E14.m1.2.2.2.2.2.2">𝑦</ci><cn id="S3.E14.m1.2.2.2.2.2.3.cmml" type="integer" xref="S3.E14.m1.2.2.2.2.2.3">2</cn></apply></list></apply><ci id="S3.E14.m1.3.3.cmml" xref="S3.E14.m1.3.3">𝑥</ci></apply><apply id="S3.E14.m1.7.7.4.cmml" xref="S3.E14.m1.7.7.4"><minus id="S3.E14.m1.7.7.4.5.cmml" xref="S3.E14.m1.7.7.4.5"></minus><apply id="S3.E14.m1.5.5.2.2.cmml" xref="S3.E14.m1.5.5.2.2"><times id="S3.E14.m1.5.5.2.2.3.cmml" xref="S3.E14.m1.5.5.2.2.3"></times><apply id="S3.E14.m1.5.5.2.2.4.cmml" xref="S3.E14.m1.5.5.2.2.4"><csymbol cd="ambiguous" id="S3.E14.m1.5.5.2.2.4.1.cmml" xref="S3.E14.m1.5.5.2.2.4">subscript</csymbol><ci id="S3.E14.m1.5.5.2.2.4.2.cmml" xref="S3.E14.m1.5.5.2.2.4.2">𝑝</ci><ci id="S3.E14.m1.5.5.2.2.4.3.cmml" xref="S3.E14.m1.5.5.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S3.E14.m1.5.5.2.2.2.3.cmml" xref="S3.E14.m1.5.5.2.2.2.2"><apply id="S3.E14.m1.4.4.1.1.1.1.1.cmml" xref="S3.E14.m1.4.4.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.E14.m1.4.4.1.1.1.1.1.1.cmml" xref="S3.E14.m1.4.4.1.1.1.1.1">subscript</csymbol><ci id="S3.E14.m1.4.4.1.1.1.1.1.2.cmml" xref="S3.E14.m1.4.4.1.1.1.1.1.2">𝑦</ci><cn id="S3.E14.m1.4.4.1.1.1.1.1.3.cmml" type="integer" xref="S3.E14.m1.4.4.1.1.1.1.1.3">1</cn></apply><apply id="S3.E14.m1.5.5.2.2.2.2.2.cmml" xref="S3.E14.m1.5.5.2.2.2.2.2"><csymbol cd="latexml" id="S3.E14.m1.5.5.2.2.2.2.2.1.cmml" xref="S3.E14.m1.5.5.2.2.2.2.2.1">conditional</csymbol><apply id="S3.E14.m1.5.5.2.2.2.2.2.2.cmml" xref="S3.E14.m1.5.5.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.E14.m1.5.5.2.2.2.2.2.2.1.cmml" xref="S3.E14.m1.5.5.2.2.2.2.2.2">subscript</csymbol><ci id="S3.E14.m1.5.5.2.2.2.2.2.2.2.cmml" xref="S3.E14.m1.5.5.2.2.2.2.2.2.2">𝑦</ci><cn id="S3.E14.m1.5.5.2.2.2.2.2.2.3.cmml" type="integer" xref="S3.E14.m1.5.5.2.2.2.2.2.2.3">2</cn></apply><ci id="S3.E14.m1.5.5.2.2.2.2.2.3.cmml" xref="S3.E14.m1.5.5.2.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="S3.E14.m1.7.7.4.4.cmml" xref="S3.E14.m1.7.7.4.4"><times id="S3.E14.m1.7.7.4.4.3.cmml" xref="S3.E14.m1.7.7.4.4.3"></times><apply id="S3.E14.m1.6.6.3.3.1.cmml" xref="S3.E14.m1.6.6.3.3.1"><ci id="S3.E14.m1.6.6.3.3.1.2.cmml" xref="S3.E14.m1.6.6.3.3.1.2">⋅</ci><apply id="S3.E14.m1.6.6.3.3.1.1.cmml" xref="S3.E14.m1.6.6.3.3.1.1"><times id="S3.E14.m1.6.6.3.3.1.1.2.cmml" xref="S3.E14.m1.6.6.3.3.1.1.2"></times><apply id="S3.E14.m1.6.6.3.3.1.1.3.cmml" xref="S3.E14.m1.6.6.3.3.1.1.3"><csymbol cd="ambiguous" id="S3.E14.m1.6.6.3.3.1.1.3.1.cmml" xref="S3.E14.m1.6.6.3.3.1.1.3">subscript</csymbol><ci id="S3.E14.m1.6.6.3.3.1.1.3.2.cmml" xref="S3.E14.m1.6.6.3.3.1.1.3.2">𝑝</ci><ci id="S3.E14.m1.6.6.3.3.1.1.3.3.cmml" xref="S3.E14.m1.6.6.3.3.1.1.3.3">𝜃</ci></apply><apply id="S3.E14.m1.6.6.3.3.1.1.1.1.1.cmml" xref="S3.E14.m1.6.6.3.3.1.1.1.1"><csymbol cd="latexml" id="S3.E14.m1.6.6.3.3.1.1.1.1.1.1.cmml" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.1">conditional</csymbol><apply id="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.cmml" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.1.cmml" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.2">subscript</csymbol><ci id="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.2.cmml" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.2">𝑦</ci><cn id="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.3.cmml" type="integer" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.2.3">1</cn></apply><ci id="S3.E14.m1.6.6.3.3.1.1.1.1.1.3.cmml" xref="S3.E14.m1.6.6.3.3.1.1.1.1.1.3">𝑥</ci></apply></apply><apply id="S3.E14.m1.6.6.3.3.1.3.cmml" xref="S3.E14.m1.6.6.3.3.1.3"><csymbol cd="ambiguous" id="S3.E14.m1.6.6.3.3.1.3.1.cmml" xref="S3.E14.m1.6.6.3.3.1.3">subscript</csymbol><ci id="S3.E14.m1.6.6.3.3.1.3.2.cmml" xref="S3.E14.m1.6.6.3.3.1.3.2">𝑝</ci><ci id="S3.E14.m1.6.6.3.3.1.3.3.cmml" xref="S3.E14.m1.6.6.3.3.1.3.3">𝜃</ci></apply></apply><apply id="S3.E14.m1.7.7.4.4.2.1.1.cmml" xref="S3.E14.m1.7.7.4.4.2.1"><csymbol cd="latexml" id="S3.E14.m1.7.7.4.4.2.1.1.1.cmml" xref="S3.E14.m1.7.7.4.4.2.1.1.1">conditional</csymbol><apply id="S3.E14.m1.7.7.4.4.2.1.1.2.cmml" xref="S3.E14.m1.7.7.4.4.2.1.1.2"><csymbol cd="ambiguous" id="S3.E14.m1.7.7.4.4.2.1.1.2.1.cmml" xref="S3.E14.m1.7.7.4.4.2.1.1.2">subscript</csymbol><ci id="S3.E14.m1.7.7.4.4.2.1.1.2.2.cmml" xref="S3.E14.m1.7.7.4.4.2.1.1.2.2">𝑦</ci><cn id="S3.E14.m1.7.7.4.4.2.1.1.2.3.cmml" type="integer" xref="S3.E14.m1.7.7.4.4.2.1.1.2.3">2</cn></apply><ci id="S3.E14.m1.7.7.4.4.2.1.1.3.cmml" xref="S3.E14.m1.7.7.4.4.2.1.1.3">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E14.m1.7c">\Sigma^{\theta}_{y_{1},y_{2}}(x)\triangleq p_{\theta}(y_{1},y_{2}|x)-p_{\theta% }(y_{1}|x)\cdot p_{\theta}(y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S3.E14.m1.7d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT end_POSTSUBSCRIPT ( italic_x ) ≜ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) - italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) ⋅ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(14)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_para" id="S3.SS3.p2"> <p class="ltx_p" id="S3.SS3.p2.1">As shown in <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite>, this operator is the covariance of the probability distributions in the equivalence class <math alttext="[x]" class="ltx_Math" display="inline" id="S3.SS3.p2.1.m1.1"><semantics id="S3.SS3.p2.1.m1.1a"><mrow id="S3.SS3.p2.1.m1.1.2.2" xref="S3.SS3.p2.1.m1.1.2.1.cmml"><mo id="S3.SS3.p2.1.m1.1.2.2.1" stretchy="false" xref="S3.SS3.p2.1.m1.1.2.1.1.cmml">[</mo><mi id="S3.SS3.p2.1.m1.1.1" xref="S3.SS3.p2.1.m1.1.1.cmml">x</mi><mo id="S3.SS3.p2.1.m1.1.2.2.2" stretchy="false" xref="S3.SS3.p2.1.m1.1.2.1.1.cmml">]</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p2.1.m1.1b"><apply id="S3.SS3.p2.1.m1.1.2.1.cmml" xref="S3.SS3.p2.1.m1.1.2.2"><csymbol cd="latexml" id="S3.SS3.p2.1.m1.1.2.1.1.cmml" xref="S3.SS3.p2.1.m1.1.2.2.1">delimited-[]</csymbol><ci id="S3.SS3.p2.1.m1.1.1.cmml" xref="S3.SS3.p2.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p2.1.m1.1c">[x]</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p2.1.m1.1d">[ italic_x ]</annotation></semantics></math>, as stated in the following theorem:</p> </div> <div class="ltx_theorem ltx_theorem_theorem" id="S3.Thmtheorem2"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem2.1.1.1">Theorem 3.2</span></span><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem2.2.2">.</span> </h6> <div class="ltx_para" id="S3.Thmtheorem2.p1"> <p class="ltx_p" id="S3.Thmtheorem2.p1.4"><span class="ltx_text ltx_font_italic" id="S3.Thmtheorem2.p1.4.4">If the model <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="S3.Thmtheorem2.p1.1.1.m1.2"><semantics id="S3.Thmtheorem2.p1.1.1.m1.2a"><mrow id="S3.Thmtheorem2.p1.1.1.m1.2.2" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.cmml"><msub id="S3.Thmtheorem2.p1.1.1.m1.2.2.4" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.4.cmml"><mi id="S3.Thmtheorem2.p1.1.1.m1.2.2.4.2" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.4.2.cmml">p</mi><mi id="S3.Thmtheorem2.p1.1.1.m1.2.2.4.3" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="S3.Thmtheorem2.p1.1.1.m1.2.2.3" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.3.cmml">⁢</mo><mrow id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.3.cmml"><mo id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.3" stretchy="false" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.3.cmml">(</mo><msub id="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1" xref="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2" xref="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3" xref="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.4" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.3.cmml">,</mo><mrow id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.cmml"><msub id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.cmml"><mi id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.2" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.3" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.1" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.3" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.5" stretchy="false" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem2.p1.1.1.m1.2b"><apply id="S3.Thmtheorem2.p1.1.1.m1.2.2.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2"><times id="S3.Thmtheorem2.p1.1.1.m1.2.2.3.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.3"></times><apply id="S3.Thmtheorem2.p1.1.1.m1.2.2.4.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.4"><csymbol cd="ambiguous" id="S3.Thmtheorem2.p1.1.1.m1.2.2.4.1.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.4">subscript</csymbol><ci id="S3.Thmtheorem2.p1.1.1.m1.2.2.4.2.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.4.2">𝑝</ci><ci id="S3.Thmtheorem2.p1.1.1.m1.2.2.4.3.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.3.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2"><apply id="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="S3.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.1.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.1.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.2.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.3.cmml" xref="S3.Thmtheorem2.p1.1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem2.p1.1.1.m1.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem2.p1.1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> is calibrated at predicting pairs, then <math alttext="\Sigma^{\theta}_{y_{1},y_{2}}(x)" class="ltx_Math" display="inline" id="S3.Thmtheorem2.p1.2.2.m2.3"><semantics id="S3.Thmtheorem2.p1.2.2.m2.3a"><mrow id="S3.Thmtheorem2.p1.2.2.m2.3.4" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.cmml"><msubsup id="S3.Thmtheorem2.p1.2.2.m2.3.4.2" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2.cmml"><mi id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.2" mathvariant="normal" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.2.cmml">Σ</mi><mrow id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.3.cmml"><msub id="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1" xref="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.cmml"><mi id="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.2" xref="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.2.cmml">y</mi><mn id="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.3" xref="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.3" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.3.cmml">,</mo><msub id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.cmml"><mi id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.2" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.2.cmml">y</mi><mn id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.3" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.3.cmml">2</mn></msub></mrow><mi id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.3" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.3.cmml">θ</mi></msubsup><mo id="S3.Thmtheorem2.p1.2.2.m2.3.4.1" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.1.cmml">⁢</mo><mrow id="S3.Thmtheorem2.p1.2.2.m2.3.4.3.2" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.cmml"><mo id="S3.Thmtheorem2.p1.2.2.m2.3.4.3.2.1" stretchy="false" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.cmml">(</mo><mi id="S3.Thmtheorem2.p1.2.2.m2.3.3" xref="S3.Thmtheorem2.p1.2.2.m2.3.3.cmml">x</mi><mo id="S3.Thmtheorem2.p1.2.2.m2.3.4.3.2.2" stretchy="false" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem2.p1.2.2.m2.3b"><apply id="S3.Thmtheorem2.p1.2.2.m2.3.4.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4"><times id="S3.Thmtheorem2.p1.2.2.m2.3.4.1.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.1"></times><apply id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2"><csymbol cd="ambiguous" id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.1.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2">subscript</csymbol><apply id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2"><csymbol cd="ambiguous" id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.1.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2">superscript</csymbol><ci id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.2.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.2">Σ</ci><ci id="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.3.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.4.2.2.3">𝜃</ci></apply><list id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.3.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2"><apply id="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1">subscript</csymbol><ci id="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.2">𝑦</ci><cn id="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.3.cmml" type="integer" xref="S3.Thmtheorem2.p1.2.2.m2.1.1.1.1.1.3">1</cn></apply><apply id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.1.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2">subscript</csymbol><ci id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.2.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.2">𝑦</ci><cn id="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.3.cmml" type="integer" xref="S3.Thmtheorem2.p1.2.2.m2.2.2.2.2.2.3">2</cn></apply></list></apply><ci id="S3.Thmtheorem2.p1.2.2.m2.3.3.cmml" xref="S3.Thmtheorem2.p1.2.2.m2.3.3">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem2.p1.2.2.m2.3c">\Sigma^{\theta}_{y_{1},y_{2}}(x)</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem2.p1.2.2.m2.3d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math> is the the covariance of the true distribution <math alttext="p(y|x)" class="ltx_Math" display="inline" id="S3.Thmtheorem2.p1.3.3.m3.1"><semantics id="S3.Thmtheorem2.p1.3.3.m3.1a"><mrow id="S3.Thmtheorem2.p1.3.3.m3.1.1" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.cmml"><mi id="S3.Thmtheorem2.p1.3.3.m3.1.1.3" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.3.cmml">p</mi><mo id="S3.Thmtheorem2.p1.3.3.m3.1.1.2" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.2.cmml">⁢</mo><mrow id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.cmml"><mo id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.2" stretchy="false" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.cmml">(</mo><mrow id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.cmml"><mi id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.2" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.1" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.1.cmml">|</mo><mi id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.3" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.3" stretchy="false" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem2.p1.3.3.m3.1b"><apply id="S3.Thmtheorem2.p1.3.3.m3.1.1.cmml" xref="S3.Thmtheorem2.p1.3.3.m3.1.1"><times id="S3.Thmtheorem2.p1.3.3.m3.1.1.2.cmml" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.2"></times><ci id="S3.Thmtheorem2.p1.3.3.m3.1.1.3.cmml" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.3">𝑝</ci><apply id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.cmml" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1"><csymbol cd="latexml" id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.1">conditional</csymbol><ci id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.2">𝑦</ci><ci id="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.3.cmml" xref="S3.Thmtheorem2.p1.3.3.m3.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem2.p1.3.3.m3.1c">p(y|x)</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem2.p1.3.3.m3.1d">italic_p ( italic_y | italic_x )</annotation></semantics></math> in the equivalence class <math alttext="[x]" class="ltx_Math" display="inline" id="S3.Thmtheorem2.p1.4.4.m4.1"><semantics id="S3.Thmtheorem2.p1.4.4.m4.1a"><mrow id="S3.Thmtheorem2.p1.4.4.m4.1.2.2" xref="S3.Thmtheorem2.p1.4.4.m4.1.2.1.cmml"><mo id="S3.Thmtheorem2.p1.4.4.m4.1.2.2.1" stretchy="false" xref="S3.Thmtheorem2.p1.4.4.m4.1.2.1.1.cmml">[</mo><mi id="S3.Thmtheorem2.p1.4.4.m4.1.1" xref="S3.Thmtheorem2.p1.4.4.m4.1.1.cmml">x</mi><mo id="S3.Thmtheorem2.p1.4.4.m4.1.2.2.2" stretchy="false" xref="S3.Thmtheorem2.p1.4.4.m4.1.2.1.1.cmml">]</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem2.p1.4.4.m4.1b"><apply id="S3.Thmtheorem2.p1.4.4.m4.1.2.1.cmml" xref="S3.Thmtheorem2.p1.4.4.m4.1.2.2"><csymbol cd="latexml" id="S3.Thmtheorem2.p1.4.4.m4.1.2.1.1.cmml" xref="S3.Thmtheorem2.p1.4.4.m4.1.2.2.1">delimited-[]</csymbol><ci id="S3.Thmtheorem2.p1.4.4.m4.1.1.cmml" xref="S3.Thmtheorem2.p1.4.4.m4.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem2.p1.4.4.m4.1c">[x]</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem2.p1.4.4.m4.1d">[ italic_x ]</annotation></semantics></math>. We write:</span></p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx4"> <tbody id="S3.E15"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\Sigma^{\theta}_{y_{1},y_{2}}(x)" class="ltx_Math" display="inline" id="S3.E15.m1.3"><semantics id="S3.E15.m1.3a"><mrow id="S3.E15.m1.3.4" xref="S3.E15.m1.3.4.cmml"><msubsup id="S3.E15.m1.3.4.2" xref="S3.E15.m1.3.4.2.cmml"><mi id="S3.E15.m1.3.4.2.2.2" mathvariant="normal" xref="S3.E15.m1.3.4.2.2.2.cmml">Σ</mi><mrow id="S3.E15.m1.2.2.2.2" xref="S3.E15.m1.2.2.2.3.cmml"><msub id="S3.E15.m1.1.1.1.1.1" xref="S3.E15.m1.1.1.1.1.1.cmml"><mi id="S3.E15.m1.1.1.1.1.1.2" xref="S3.E15.m1.1.1.1.1.1.2.cmml">y</mi><mn id="S3.E15.m1.1.1.1.1.1.3" xref="S3.E15.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.E15.m1.2.2.2.2.3" xref="S3.E15.m1.2.2.2.3.cmml">,</mo><msub id="S3.E15.m1.2.2.2.2.2" xref="S3.E15.m1.2.2.2.2.2.cmml"><mi id="S3.E15.m1.2.2.2.2.2.2" xref="S3.E15.m1.2.2.2.2.2.2.cmml">y</mi><mn id="S3.E15.m1.2.2.2.2.2.3" xref="S3.E15.m1.2.2.2.2.2.3.cmml">2</mn></msub></mrow><mi id="S3.E15.m1.3.4.2.2.3" xref="S3.E15.m1.3.4.2.2.3.cmml">θ</mi></msubsup><mo id="S3.E15.m1.3.4.1" xref="S3.E15.m1.3.4.1.cmml">⁢</mo><mrow id="S3.E15.m1.3.4.3.2" xref="S3.E15.m1.3.4.cmml"><mo id="S3.E15.m1.3.4.3.2.1" stretchy="false" xref="S3.E15.m1.3.4.cmml">(</mo><mi id="S3.E15.m1.3.3" xref="S3.E15.m1.3.3.cmml">x</mi><mo id="S3.E15.m1.3.4.3.2.2" stretchy="false" xref="S3.E15.m1.3.4.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.E15.m1.3b"><apply id="S3.E15.m1.3.4.cmml" xref="S3.E15.m1.3.4"><times id="S3.E15.m1.3.4.1.cmml" xref="S3.E15.m1.3.4.1"></times><apply id="S3.E15.m1.3.4.2.cmml" xref="S3.E15.m1.3.4.2"><csymbol cd="ambiguous" id="S3.E15.m1.3.4.2.1.cmml" xref="S3.E15.m1.3.4.2">subscript</csymbol><apply id="S3.E15.m1.3.4.2.2.cmml" xref="S3.E15.m1.3.4.2"><csymbol cd="ambiguous" id="S3.E15.m1.3.4.2.2.1.cmml" xref="S3.E15.m1.3.4.2">superscript</csymbol><ci id="S3.E15.m1.3.4.2.2.2.cmml" xref="S3.E15.m1.3.4.2.2.2">Σ</ci><ci id="S3.E15.m1.3.4.2.2.3.cmml" xref="S3.E15.m1.3.4.2.2.3">𝜃</ci></apply><list id="S3.E15.m1.2.2.2.3.cmml" xref="S3.E15.m1.2.2.2.2"><apply id="S3.E15.m1.1.1.1.1.1.cmml" xref="S3.E15.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.E15.m1.1.1.1.1.1.1.cmml" xref="S3.E15.m1.1.1.1.1.1">subscript</csymbol><ci id="S3.E15.m1.1.1.1.1.1.2.cmml" xref="S3.E15.m1.1.1.1.1.1.2">𝑦</ci><cn id="S3.E15.m1.1.1.1.1.1.3.cmml" type="integer" xref="S3.E15.m1.1.1.1.1.1.3">1</cn></apply><apply id="S3.E15.m1.2.2.2.2.2.cmml" xref="S3.E15.m1.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.E15.m1.2.2.2.2.2.1.cmml" xref="S3.E15.m1.2.2.2.2.2">subscript</csymbol><ci id="S3.E15.m1.2.2.2.2.2.2.cmml" xref="S3.E15.m1.2.2.2.2.2.2">𝑦</ci><cn id="S3.E15.m1.2.2.2.2.2.3.cmml" type="integer" xref="S3.E15.m1.2.2.2.2.2.3">2</cn></apply></list></apply><ci id="S3.E15.m1.3.3.cmml" xref="S3.E15.m1.3.3">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E15.m1.3c">\displaystyle\Sigma^{\theta}_{y_{1},y_{2}}(x)</annotation><annotation encoding="application/x-llamapun" id="S3.E15.m1.3d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{C}[p(y_{1}|X),p(y_{2}|X)|[x]]\;," class="ltx_Math" display="inline" id="S3.E15.m2.2"><semantics id="S3.E15.m2.2a"><mrow id="S3.E15.m2.2.2.1" xref="S3.E15.m2.2.2.1.1.cmml"><mrow id="S3.E15.m2.2.2.1.1" xref="S3.E15.m2.2.2.1.1.cmml"><mi id="S3.E15.m2.2.2.1.1.4" xref="S3.E15.m2.2.2.1.1.4.cmml"></mi><mo id="S3.E15.m2.2.2.1.1.3" xref="S3.E15.m2.2.2.1.1.3.cmml">=</mo><mrow id="S3.E15.m2.2.2.1.1.2" xref="S3.E15.m2.2.2.1.1.2.cmml"><mi id="S3.E15.m2.2.2.1.1.2.4" xref="S3.E15.m2.2.2.1.1.2.4.cmml">ℂ</mi><mo id="S3.E15.m2.2.2.1.1.2.3" xref="S3.E15.m2.2.2.1.1.2.3.cmml">⁢</mo><mrow id="S3.E15.m2.2.2.1.1.2.2.2" xref="S3.E15.m2.2.2.1.1.2.2.3.cmml"><mo id="S3.E15.m2.2.2.1.1.2.2.2.3" stretchy="false" xref="S3.E15.m2.2.2.1.1.2.2.3.cmml">[</mo><mrow id="S3.E15.m2.2.2.1.1.1.1.1.1" xref="S3.E15.m2.2.2.1.1.1.1.1.1.cmml"><mi id="S3.E15.m2.2.2.1.1.1.1.1.1.3" xref="S3.E15.m2.2.2.1.1.1.1.1.1.3.cmml">p</mi><mo id="S3.E15.m2.2.2.1.1.1.1.1.1.2" xref="S3.E15.m2.2.2.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.cmml"><msub id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.2" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.3" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.1" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.3" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S3.E15.m2.2.2.1.1.2.2.2.4" xref="S3.E15.m2.2.2.1.1.2.2.3.cmml">,</mo><mrow id="S3.E15.m2.2.2.1.1.2.2.2.2" xref="S3.E15.m2.2.2.1.1.2.2.2.2.cmml"><mrow id="S3.E15.m2.2.2.1.1.2.2.2.2.1" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.cmml"><mi id="S3.E15.m2.2.2.1.1.2.2.2.2.1.3" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.3.cmml">p</mi><mo id="S3.E15.m2.2.2.1.1.2.2.2.2.1.2" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.2.cmml">⁢</mo><mrow id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.cmml"><mo id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.2" stretchy="false" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.cmml">(</mo><mrow id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.cmml"><msub id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.cmml"><mi id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.2" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.2.cmml">y</mi><mn id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.3" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.1" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.1.cmml">|</mo><mi id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.3" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.3.cmml">X</mi></mrow><mo id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.3" stretchy="false" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="S3.E15.m2.2.2.1.1.2.2.2.2.2" xref="S3.E15.m2.2.2.1.1.2.2.2.2.2.cmml">|</mo><mrow id="S3.E15.m2.2.2.1.1.2.2.2.2.3.2" xref="S3.E15.m2.2.2.1.1.2.2.2.2.3.1.cmml"><mo id="S3.E15.m2.2.2.1.1.2.2.2.2.3.2.1" stretchy="false" xref="S3.E15.m2.2.2.1.1.2.2.2.2.3.1.1.cmml">[</mo><mi id="S3.E15.m2.1.1" xref="S3.E15.m2.1.1.cmml">x</mi><mo id="S3.E15.m2.2.2.1.1.2.2.2.2.3.2.2" stretchy="false" xref="S3.E15.m2.2.2.1.1.2.2.2.2.3.1.1.cmml">]</mo></mrow></mrow><mo id="S3.E15.m2.2.2.1.1.2.2.2.5" rspace="0.280em" stretchy="false" xref="S3.E15.m2.2.2.1.1.2.2.3.cmml">]</mo></mrow></mrow></mrow><mo id="S3.E15.m2.2.2.1.2" xref="S3.E15.m2.2.2.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E15.m2.2b"><apply id="S3.E15.m2.2.2.1.1.cmml" xref="S3.E15.m2.2.2.1"><eq id="S3.E15.m2.2.2.1.1.3.cmml" xref="S3.E15.m2.2.2.1.1.3"></eq><csymbol cd="latexml" id="S3.E15.m2.2.2.1.1.4.cmml" xref="S3.E15.m2.2.2.1.1.4">absent</csymbol><apply id="S3.E15.m2.2.2.1.1.2.cmml" xref="S3.E15.m2.2.2.1.1.2"><times id="S3.E15.m2.2.2.1.1.2.3.cmml" xref="S3.E15.m2.2.2.1.1.2.3"></times><ci id="S3.E15.m2.2.2.1.1.2.4.cmml" xref="S3.E15.m2.2.2.1.1.2.4">ℂ</ci><interval closure="closed" id="S3.E15.m2.2.2.1.1.2.2.3.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2"><apply id="S3.E15.m2.2.2.1.1.1.1.1.1.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1"><times id="S3.E15.m2.2.2.1.1.1.1.1.1.2.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.2"></times><ci id="S3.E15.m2.2.2.1.1.1.1.1.1.3.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.3">𝑝</ci><apply id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="S3.E15.m2.2.2.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="S3.E15.m2.2.2.1.1.2.2.2.2.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2"><csymbol cd="latexml" id="S3.E15.m2.2.2.1.1.2.2.2.2.2.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.2">conditional</csymbol><apply id="S3.E15.m2.2.2.1.1.2.2.2.2.1.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1"><times id="S3.E15.m2.2.2.1.1.2.2.2.2.1.2.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.2"></times><ci id="S3.E15.m2.2.2.1.1.2.2.2.2.1.3.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.3">𝑝</ci><apply id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1"><csymbol cd="latexml" id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.1.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.1">conditional</csymbol><apply id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2"><csymbol cd="ambiguous" id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.1.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2">subscript</csymbol><ci id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.2.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.2">𝑦</ci><cn id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.3.cmml" type="integer" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.2.3">2</cn></apply><ci id="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.3.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.1.1.1.1.3">𝑋</ci></apply></apply><apply id="S3.E15.m2.2.2.1.1.2.2.2.2.3.1.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.3.2"><csymbol cd="latexml" id="S3.E15.m2.2.2.1.1.2.2.2.2.3.1.1.cmml" xref="S3.E15.m2.2.2.1.1.2.2.2.2.3.2.1">delimited-[]</csymbol><ci id="S3.E15.m2.1.1.cmml" xref="S3.E15.m2.1.1">𝑥</ci></apply></apply></interval></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E15.m2.2c">\displaystyle=\mathbb{C}[p(y_{1}|X),p(y_{2}|X)|[x]]\;,</annotation><annotation encoding="application/x-llamapun" id="S3.E15.m2.2d">= blackboard_C [ italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) , italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ) | [ italic_x ] ] ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(15)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_para" id="S3.SS3.p3"> <p class="ltx_p" id="S3.SS3.p3.6">This result is important because it demonstrates that a model trained to predict pairs can give reliable information about the distribution of possible distributions, and hence a measure of the epistemic uncertainty in its most general sense. In a classification problem with finite number <math alttext="K" class="ltx_Math" display="inline" id="S3.SS3.p3.1.m1.1"><semantics id="S3.SS3.p3.1.m1.1a"><mi id="S3.SS3.p3.1.m1.1.1" xref="S3.SS3.p3.1.m1.1.1.cmml">K</mi><annotation-xml encoding="MathML-Content" id="S3.SS3.p3.1.m1.1b"><ci id="S3.SS3.p3.1.m1.1.1.cmml" xref="S3.SS3.p3.1.m1.1.1">𝐾</ci></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p3.1.m1.1c">K</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p3.1.m1.1d">italic_K</annotation></semantics></math> of classes, <math alttext="\Sigma^{\theta}(x)" class="ltx_Math" display="inline" id="S3.SS3.p3.2.m2.1"><semantics id="S3.SS3.p3.2.m2.1a"><mrow id="S3.SS3.p3.2.m2.1.2" xref="S3.SS3.p3.2.m2.1.2.cmml"><msup id="S3.SS3.p3.2.m2.1.2.2" xref="S3.SS3.p3.2.m2.1.2.2.cmml"><mi id="S3.SS3.p3.2.m2.1.2.2.2" mathvariant="normal" xref="S3.SS3.p3.2.m2.1.2.2.2.cmml">Σ</mi><mi id="S3.SS3.p3.2.m2.1.2.2.3" xref="S3.SS3.p3.2.m2.1.2.2.3.cmml">θ</mi></msup><mo id="S3.SS3.p3.2.m2.1.2.1" xref="S3.SS3.p3.2.m2.1.2.1.cmml">⁢</mo><mrow id="S3.SS3.p3.2.m2.1.2.3.2" xref="S3.SS3.p3.2.m2.1.2.cmml"><mo id="S3.SS3.p3.2.m2.1.2.3.2.1" stretchy="false" xref="S3.SS3.p3.2.m2.1.2.cmml">(</mo><mi id="S3.SS3.p3.2.m2.1.1" xref="S3.SS3.p3.2.m2.1.1.cmml">x</mi><mo id="S3.SS3.p3.2.m2.1.2.3.2.2" stretchy="false" xref="S3.SS3.p3.2.m2.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p3.2.m2.1b"><apply id="S3.SS3.p3.2.m2.1.2.cmml" xref="S3.SS3.p3.2.m2.1.2"><times id="S3.SS3.p3.2.m2.1.2.1.cmml" xref="S3.SS3.p3.2.m2.1.2.1"></times><apply id="S3.SS3.p3.2.m2.1.2.2.cmml" xref="S3.SS3.p3.2.m2.1.2.2"><csymbol cd="ambiguous" id="S3.SS3.p3.2.m2.1.2.2.1.cmml" xref="S3.SS3.p3.2.m2.1.2.2">superscript</csymbol><ci id="S3.SS3.p3.2.m2.1.2.2.2.cmml" xref="S3.SS3.p3.2.m2.1.2.2.2">Σ</ci><ci id="S3.SS3.p3.2.m2.1.2.2.3.cmml" xref="S3.SS3.p3.2.m2.1.2.2.3">𝜃</ci></apply><ci id="S3.SS3.p3.2.m2.1.1.cmml" xref="S3.SS3.p3.2.m2.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p3.2.m2.1c">\Sigma^{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p3.2.m2.1d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math> is a <math alttext="K\times K" class="ltx_Math" display="inline" id="S3.SS3.p3.3.m3.1"><semantics id="S3.SS3.p3.3.m3.1a"><mrow id="S3.SS3.p3.3.m3.1.1" xref="S3.SS3.p3.3.m3.1.1.cmml"><mi id="S3.SS3.p3.3.m3.1.1.2" xref="S3.SS3.p3.3.m3.1.1.2.cmml">K</mi><mo id="S3.SS3.p3.3.m3.1.1.1" lspace="0.222em" rspace="0.222em" xref="S3.SS3.p3.3.m3.1.1.1.cmml">×</mo><mi id="S3.SS3.p3.3.m3.1.1.3" xref="S3.SS3.p3.3.m3.1.1.3.cmml">K</mi></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p3.3.m3.1b"><apply id="S3.SS3.p3.3.m3.1.1.cmml" xref="S3.SS3.p3.3.m3.1.1"><times id="S3.SS3.p3.3.m3.1.1.1.cmml" xref="S3.SS3.p3.3.m3.1.1.1"></times><ci id="S3.SS3.p3.3.m3.1.1.2.cmml" xref="S3.SS3.p3.3.m3.1.1.2">𝐾</ci><ci id="S3.SS3.p3.3.m3.1.1.3.cmml" xref="S3.SS3.p3.3.m3.1.1.3">𝐾</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p3.3.m3.1c">K\times K</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p3.3.m3.1d">italic_K × italic_K</annotation></semantics></math> matrix, so that it can be evaluated explicitly. However, in regression, the covariance operator <math alttext="\Sigma^{\theta}(x)" class="ltx_Math" display="inline" id="S3.SS3.p3.4.m4.1"><semantics id="S3.SS3.p3.4.m4.1a"><mrow id="S3.SS3.p3.4.m4.1.2" xref="S3.SS3.p3.4.m4.1.2.cmml"><msup id="S3.SS3.p3.4.m4.1.2.2" xref="S3.SS3.p3.4.m4.1.2.2.cmml"><mi id="S3.SS3.p3.4.m4.1.2.2.2" mathvariant="normal" xref="S3.SS3.p3.4.m4.1.2.2.2.cmml">Σ</mi><mi id="S3.SS3.p3.4.m4.1.2.2.3" xref="S3.SS3.p3.4.m4.1.2.2.3.cmml">θ</mi></msup><mo id="S3.SS3.p3.4.m4.1.2.1" xref="S3.SS3.p3.4.m4.1.2.1.cmml">⁢</mo><mrow id="S3.SS3.p3.4.m4.1.2.3.2" xref="S3.SS3.p3.4.m4.1.2.cmml"><mo id="S3.SS3.p3.4.m4.1.2.3.2.1" stretchy="false" xref="S3.SS3.p3.4.m4.1.2.cmml">(</mo><mi id="S3.SS3.p3.4.m4.1.1" xref="S3.SS3.p3.4.m4.1.1.cmml">x</mi><mo id="S3.SS3.p3.4.m4.1.2.3.2.2" stretchy="false" xref="S3.SS3.p3.4.m4.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p3.4.m4.1b"><apply id="S3.SS3.p3.4.m4.1.2.cmml" xref="S3.SS3.p3.4.m4.1.2"><times id="S3.SS3.p3.4.m4.1.2.1.cmml" xref="S3.SS3.p3.4.m4.1.2.1"></times><apply id="S3.SS3.p3.4.m4.1.2.2.cmml" xref="S3.SS3.p3.4.m4.1.2.2"><csymbol cd="ambiguous" id="S3.SS3.p3.4.m4.1.2.2.1.cmml" xref="S3.SS3.p3.4.m4.1.2.2">superscript</csymbol><ci id="S3.SS3.p3.4.m4.1.2.2.2.cmml" xref="S3.SS3.p3.4.m4.1.2.2.2">Σ</ci><ci id="S3.SS3.p3.4.m4.1.2.2.3.cmml" xref="S3.SS3.p3.4.m4.1.2.2.3">𝜃</ci></apply><ci id="S3.SS3.p3.4.m4.1.1.cmml" xref="S3.SS3.p3.4.m4.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p3.4.m4.1c">\Sigma^{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p3.4.m4.1d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math> would be infinite dimensional, which makes it more cumbersome to use in practice. This is the reason why this operator is never used in the present paper, but <math alttext="\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="S3.SS3.p3.5.m5.1"><semantics id="S3.SS3.p3.5.m5.1a"><mrow id="S3.SS3.p3.5.m5.1.2" xref="S3.SS3.p3.5.m5.1.2.cmml"><msub id="S3.SS3.p3.5.m5.1.2.2" xref="S3.SS3.p3.5.m5.1.2.2.cmml"><mi id="S3.SS3.p3.5.m5.1.2.2.2" xref="S3.SS3.p3.5.m5.1.2.2.2.cmml">cov</mi><mi id="S3.SS3.p3.5.m5.1.2.2.3" xref="S3.SS3.p3.5.m5.1.2.2.3.cmml">θ</mi></msub><mo id="S3.SS3.p3.5.m5.1.2.1" xref="S3.SS3.p3.5.m5.1.2.1.cmml">⁢</mo><mrow id="S3.SS3.p3.5.m5.1.2.3.2" xref="S3.SS3.p3.5.m5.1.2.cmml"><mo id="S3.SS3.p3.5.m5.1.2.3.2.1" stretchy="false" xref="S3.SS3.p3.5.m5.1.2.cmml">(</mo><mi id="S3.SS3.p3.5.m5.1.1" xref="S3.SS3.p3.5.m5.1.1.cmml">x</mi><mo id="S3.SS3.p3.5.m5.1.2.3.2.2" stretchy="false" xref="S3.SS3.p3.5.m5.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS3.p3.5.m5.1b"><apply id="S3.SS3.p3.5.m5.1.2.cmml" xref="S3.SS3.p3.5.m5.1.2"><times id="S3.SS3.p3.5.m5.1.2.1.cmml" xref="S3.SS3.p3.5.m5.1.2.1"></times><apply id="S3.SS3.p3.5.m5.1.2.2.cmml" xref="S3.SS3.p3.5.m5.1.2.2"><csymbol cd="ambiguous" id="S3.SS3.p3.5.m5.1.2.2.1.cmml" xref="S3.SS3.p3.5.m5.1.2.2">subscript</csymbol><ci id="S3.SS3.p3.5.m5.1.2.2.2.cmml" xref="S3.SS3.p3.5.m5.1.2.2.2">cov</ci><ci id="S3.SS3.p3.5.m5.1.2.2.3.cmml" xref="S3.SS3.p3.5.m5.1.2.2.3">𝜃</ci></apply><ci id="S3.SS3.p3.5.m5.1.1.cmml" xref="S3.SS3.p3.5.m5.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p3.5.m5.1c">\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p3.5.m5.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math> is preferred instead. However, the epistemic uncertainty estimate of Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a> is related to <math alttext="\Sigma^{\theta}" class="ltx_Math" display="inline" id="S3.SS3.p3.6.m6.1"><semantics id="S3.SS3.p3.6.m6.1a"><msup id="S3.SS3.p3.6.m6.1.1" xref="S3.SS3.p3.6.m6.1.1.cmml"><mi id="S3.SS3.p3.6.m6.1.1.2" mathvariant="normal" xref="S3.SS3.p3.6.m6.1.1.2.cmml">Σ</mi><mi id="S3.SS3.p3.6.m6.1.1.3" xref="S3.SS3.p3.6.m6.1.1.3.cmml">θ</mi></msup><annotation-xml encoding="MathML-Content" id="S3.SS3.p3.6.m6.1b"><apply id="S3.SS3.p3.6.m6.1.1.cmml" xref="S3.SS3.p3.6.m6.1.1"><csymbol cd="ambiguous" id="S3.SS3.p3.6.m6.1.1.1.cmml" xref="S3.SS3.p3.6.m6.1.1">superscript</csymbol><ci id="S3.SS3.p3.6.m6.1.1.2.cmml" xref="S3.SS3.p3.6.m6.1.1.2">Σ</ci><ci id="S3.SS3.p3.6.m6.1.1.3.cmml" xref="S3.SS3.p3.6.m6.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS3.p3.6.m6.1c">\Sigma^{\theta}</annotation><annotation encoding="application/x-llamapun" id="S3.SS3.p3.6.m6.1d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT</annotation></semantics></math> by the following proposition.</p> </div> <div class="ltx_theorem ltx_theorem_proposition" id="S3.Thmtheorem3"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem3.1.1.1">Proposition 3.3</span></span><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem3.2.2">.</span> </h6> <div class="ltx_para" id="S3.Thmtheorem3.p1"> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx5"> <tbody id="S3.E16"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="S3.E16.m1.1"><semantics id="S3.E16.m1.1a"><mrow id="S3.E16.m1.1.2" xref="S3.E16.m1.1.2.cmml"><msub id="S3.E16.m1.1.2.2" xref="S3.E16.m1.1.2.2.cmml"><mi id="S3.E16.m1.1.2.2.2" xref="S3.E16.m1.1.2.2.2.cmml">cov</mi><mi id="S3.E16.m1.1.2.2.3" xref="S3.E16.m1.1.2.2.3.cmml">θ</mi></msub><mo id="S3.E16.m1.1.2.1" xref="S3.E16.m1.1.2.1.cmml">⁢</mo><mrow id="S3.E16.m1.1.2.3.2" xref="S3.E16.m1.1.2.cmml"><mo id="S3.E16.m1.1.2.3.2.1" stretchy="false" xref="S3.E16.m1.1.2.cmml">(</mo><mi id="S3.E16.m1.1.1" xref="S3.E16.m1.1.1.cmml">x</mi><mo id="S3.E16.m1.1.2.3.2.2" stretchy="false" xref="S3.E16.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.E16.m1.1b"><apply id="S3.E16.m1.1.2.cmml" xref="S3.E16.m1.1.2"><times id="S3.E16.m1.1.2.1.cmml" xref="S3.E16.m1.1.2.1"></times><apply id="S3.E16.m1.1.2.2.cmml" xref="S3.E16.m1.1.2.2"><csymbol cd="ambiguous" id="S3.E16.m1.1.2.2.1.cmml" xref="S3.E16.m1.1.2.2">subscript</csymbol><ci id="S3.E16.m1.1.2.2.2.cmml" xref="S3.E16.m1.1.2.2.2">cov</ci><ci id="S3.E16.m1.1.2.2.3.cmml" xref="S3.E16.m1.1.2.2.3">𝜃</ci></apply><ci id="S3.E16.m1.1.1.cmml" xref="S3.E16.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E16.m1.1c">\displaystyle\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="S3.E16.m1.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}\Sigma^{\theta}_{y_{1},y_{2}}% (x)y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}\;," class="ltx_Math" display="inline" id="S3.E16.m2.4"><semantics id="S3.E16.m2.4a"><mrow id="S3.E16.m2.4.4.1" xref="S3.E16.m2.4.4.1.1.cmml"><mrow id="S3.E16.m2.4.4.1.1" xref="S3.E16.m2.4.4.1.1.cmml"><mi id="S3.E16.m2.4.4.1.1.2" xref="S3.E16.m2.4.4.1.1.2.cmml"></mi><mo id="S3.E16.m2.4.4.1.1.1" xref="S3.E16.m2.4.4.1.1.1.cmml">=</mo><mrow id="S3.E16.m2.4.4.1.1.3" xref="S3.E16.m2.4.4.1.1.3.cmml"><mstyle displaystyle="true" id="S3.E16.m2.4.4.1.1.3.1" xref="S3.E16.m2.4.4.1.1.3.1.cmml"><msub id="S3.E16.m2.4.4.1.1.3.1a" xref="S3.E16.m2.4.4.1.1.3.1.cmml"><mo id="S3.E16.m2.4.4.1.1.3.1.2" xref="S3.E16.m2.4.4.1.1.3.1.2.cmml">∫</mo><mrow id="S3.E16.m2.4.4.1.1.3.1.3" xref="S3.E16.m2.4.4.1.1.3.1.3.cmml"><mi class="ltx_font_mathcaligraphic" id="S3.E16.m2.4.4.1.1.3.1.3.2" xref="S3.E16.m2.4.4.1.1.3.1.3.2.cmml">𝒴</mi><mo id="S3.E16.m2.4.4.1.1.3.1.3.1" lspace="0.222em" rspace="0.222em" xref="S3.E16.m2.4.4.1.1.3.1.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="S3.E16.m2.4.4.1.1.3.1.3.3" xref="S3.E16.m2.4.4.1.1.3.1.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="S3.E16.m2.4.4.1.1.3.2" xref="S3.E16.m2.4.4.1.1.3.2.cmml"><msubsup id="S3.E16.m2.4.4.1.1.3.2.2" xref="S3.E16.m2.4.4.1.1.3.2.2.cmml"><mi id="S3.E16.m2.4.4.1.1.3.2.2.2.2" mathvariant="normal" xref="S3.E16.m2.4.4.1.1.3.2.2.2.2.cmml">Σ</mi><mrow id="S3.E16.m2.2.2.2.2" xref="S3.E16.m2.2.2.2.3.cmml"><msub id="S3.E16.m2.1.1.1.1.1" xref="S3.E16.m2.1.1.1.1.1.cmml"><mi id="S3.E16.m2.1.1.1.1.1.2" xref="S3.E16.m2.1.1.1.1.1.2.cmml">y</mi><mn id="S3.E16.m2.1.1.1.1.1.3" xref="S3.E16.m2.1.1.1.1.1.3.cmml">1</mn></msub><mo id="S3.E16.m2.2.2.2.2.3" xref="S3.E16.m2.2.2.2.3.cmml">,</mo><msub id="S3.E16.m2.2.2.2.2.2" xref="S3.E16.m2.2.2.2.2.2.cmml"><mi id="S3.E16.m2.2.2.2.2.2.2" xref="S3.E16.m2.2.2.2.2.2.2.cmml">y</mi><mn id="S3.E16.m2.2.2.2.2.2.3" xref="S3.E16.m2.2.2.2.2.2.3.cmml">2</mn></msub></mrow><mi id="S3.E16.m2.4.4.1.1.3.2.2.2.3" xref="S3.E16.m2.4.4.1.1.3.2.2.2.3.cmml">θ</mi></msubsup><mo id="S3.E16.m2.4.4.1.1.3.2.1" xref="S3.E16.m2.4.4.1.1.3.2.1.cmml">⁢</mo><mrow id="S3.E16.m2.4.4.1.1.3.2.3.2" xref="S3.E16.m2.4.4.1.1.3.2.cmml"><mo id="S3.E16.m2.4.4.1.1.3.2.3.2.1" stretchy="false" xref="S3.E16.m2.4.4.1.1.3.2.cmml">(</mo><mi id="S3.E16.m2.3.3" xref="S3.E16.m2.3.3.cmml">x</mi><mo id="S3.E16.m2.4.4.1.1.3.2.3.2.2" stretchy="false" xref="S3.E16.m2.4.4.1.1.3.2.cmml">)</mo></mrow><mo id="S3.E16.m2.4.4.1.1.3.2.1a" xref="S3.E16.m2.4.4.1.1.3.2.1.cmml">⁢</mo><msub id="S3.E16.m2.4.4.1.1.3.2.4" xref="S3.E16.m2.4.4.1.1.3.2.4.cmml"><mi id="S3.E16.m2.4.4.1.1.3.2.4.2" xref="S3.E16.m2.4.4.1.1.3.2.4.2.cmml">y</mi><mn id="S3.E16.m2.4.4.1.1.3.2.4.3" xref="S3.E16.m2.4.4.1.1.3.2.4.3.cmml">1</mn></msub><mo id="S3.E16.m2.4.4.1.1.3.2.1b" xref="S3.E16.m2.4.4.1.1.3.2.1.cmml">⁢</mo><msub id="S3.E16.m2.4.4.1.1.3.2.5" xref="S3.E16.m2.4.4.1.1.3.2.5.cmml"><mi id="S3.E16.m2.4.4.1.1.3.2.5.2" xref="S3.E16.m2.4.4.1.1.3.2.5.2.cmml">y</mi><mn id="S3.E16.m2.4.4.1.1.3.2.5.3" xref="S3.E16.m2.4.4.1.1.3.2.5.3.cmml">2</mn></msub><mo id="S3.E16.m2.4.4.1.1.3.2.1c" lspace="0em" xref="S3.E16.m2.4.4.1.1.3.2.1.cmml">⁢</mo><mrow id="S3.E16.m2.4.4.1.1.3.2.6" xref="S3.E16.m2.4.4.1.1.3.2.6.cmml"><mo id="S3.E16.m2.4.4.1.1.3.2.6.1" rspace="0em" xref="S3.E16.m2.4.4.1.1.3.2.6.1.cmml">d</mo><msub id="S3.E16.m2.4.4.1.1.3.2.6.2" xref="S3.E16.m2.4.4.1.1.3.2.6.2.cmml"><mi id="S3.E16.m2.4.4.1.1.3.2.6.2.2" xref="S3.E16.m2.4.4.1.1.3.2.6.2.2.cmml">y</mi><mn id="S3.E16.m2.4.4.1.1.3.2.6.2.3" xref="S3.E16.m2.4.4.1.1.3.2.6.2.3.cmml">1</mn></msub></mrow><mo id="S3.E16.m2.4.4.1.1.3.2.1d" lspace="0em" xref="S3.E16.m2.4.4.1.1.3.2.1.cmml">⁢</mo><mrow id="S3.E16.m2.4.4.1.1.3.2.7" xref="S3.E16.m2.4.4.1.1.3.2.7.cmml"><mo id="S3.E16.m2.4.4.1.1.3.2.7.1" rspace="0em" xref="S3.E16.m2.4.4.1.1.3.2.7.1.cmml">d</mo><msub id="S3.E16.m2.4.4.1.1.3.2.7.2" xref="S3.E16.m2.4.4.1.1.3.2.7.2.cmml"><mi id="S3.E16.m2.4.4.1.1.3.2.7.2.2" xref="S3.E16.m2.4.4.1.1.3.2.7.2.2.cmml">y</mi><mn id="S3.E16.m2.4.4.1.1.3.2.7.2.3" xref="S3.E16.m2.4.4.1.1.3.2.7.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><mo id="S3.E16.m2.4.4.1.2" xref="S3.E16.m2.4.4.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E16.m2.4b"><apply id="S3.E16.m2.4.4.1.1.cmml" xref="S3.E16.m2.4.4.1"><eq id="S3.E16.m2.4.4.1.1.1.cmml" xref="S3.E16.m2.4.4.1.1.1"></eq><csymbol cd="latexml" id="S3.E16.m2.4.4.1.1.2.cmml" xref="S3.E16.m2.4.4.1.1.2">absent</csymbol><apply id="S3.E16.m2.4.4.1.1.3.cmml" xref="S3.E16.m2.4.4.1.1.3"><apply id="S3.E16.m2.4.4.1.1.3.1.cmml" xref="S3.E16.m2.4.4.1.1.3.1"><csymbol cd="ambiguous" id="S3.E16.m2.4.4.1.1.3.1.1.cmml" xref="S3.E16.m2.4.4.1.1.3.1">subscript</csymbol><int id="S3.E16.m2.4.4.1.1.3.1.2.cmml" xref="S3.E16.m2.4.4.1.1.3.1.2"></int><apply id="S3.E16.m2.4.4.1.1.3.1.3.cmml" xref="S3.E16.m2.4.4.1.1.3.1.3"><times id="S3.E16.m2.4.4.1.1.3.1.3.1.cmml" xref="S3.E16.m2.4.4.1.1.3.1.3.1"></times><ci id="S3.E16.m2.4.4.1.1.3.1.3.2.cmml" xref="S3.E16.m2.4.4.1.1.3.1.3.2">𝒴</ci><ci id="S3.E16.m2.4.4.1.1.3.1.3.3.cmml" xref="S3.E16.m2.4.4.1.1.3.1.3.3">𝒴</ci></apply></apply><apply id="S3.E16.m2.4.4.1.1.3.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2"><times id="S3.E16.m2.4.4.1.1.3.2.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.1"></times><apply id="S3.E16.m2.4.4.1.1.3.2.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.2"><csymbol cd="ambiguous" id="S3.E16.m2.4.4.1.1.3.2.2.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.2">subscript</csymbol><apply id="S3.E16.m2.4.4.1.1.3.2.2.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.2"><csymbol cd="ambiguous" id="S3.E16.m2.4.4.1.1.3.2.2.2.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.2">superscript</csymbol><ci id="S3.E16.m2.4.4.1.1.3.2.2.2.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.2.2.2">Σ</ci><ci id="S3.E16.m2.4.4.1.1.3.2.2.2.3.cmml" xref="S3.E16.m2.4.4.1.1.3.2.2.2.3">𝜃</ci></apply><list id="S3.E16.m2.2.2.2.3.cmml" xref="S3.E16.m2.2.2.2.2"><apply id="S3.E16.m2.1.1.1.1.1.cmml" xref="S3.E16.m2.1.1.1.1.1"><csymbol cd="ambiguous" id="S3.E16.m2.1.1.1.1.1.1.cmml" xref="S3.E16.m2.1.1.1.1.1">subscript</csymbol><ci id="S3.E16.m2.1.1.1.1.1.2.cmml" xref="S3.E16.m2.1.1.1.1.1.2">𝑦</ci><cn id="S3.E16.m2.1.1.1.1.1.3.cmml" type="integer" xref="S3.E16.m2.1.1.1.1.1.3">1</cn></apply><apply id="S3.E16.m2.2.2.2.2.2.cmml" xref="S3.E16.m2.2.2.2.2.2"><csymbol cd="ambiguous" id="S3.E16.m2.2.2.2.2.2.1.cmml" xref="S3.E16.m2.2.2.2.2.2">subscript</csymbol><ci id="S3.E16.m2.2.2.2.2.2.2.cmml" xref="S3.E16.m2.2.2.2.2.2.2">𝑦</ci><cn id="S3.E16.m2.2.2.2.2.2.3.cmml" type="integer" xref="S3.E16.m2.2.2.2.2.2.3">2</cn></apply></list></apply><ci id="S3.E16.m2.3.3.cmml" xref="S3.E16.m2.3.3">𝑥</ci><apply id="S3.E16.m2.4.4.1.1.3.2.4.cmml" xref="S3.E16.m2.4.4.1.1.3.2.4"><csymbol cd="ambiguous" id="S3.E16.m2.4.4.1.1.3.2.4.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.4">subscript</csymbol><ci id="S3.E16.m2.4.4.1.1.3.2.4.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.4.2">𝑦</ci><cn id="S3.E16.m2.4.4.1.1.3.2.4.3.cmml" type="integer" xref="S3.E16.m2.4.4.1.1.3.2.4.3">1</cn></apply><apply id="S3.E16.m2.4.4.1.1.3.2.5.cmml" xref="S3.E16.m2.4.4.1.1.3.2.5"><csymbol cd="ambiguous" id="S3.E16.m2.4.4.1.1.3.2.5.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.5">subscript</csymbol><ci id="S3.E16.m2.4.4.1.1.3.2.5.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.5.2">𝑦</ci><cn id="S3.E16.m2.4.4.1.1.3.2.5.3.cmml" type="integer" xref="S3.E16.m2.4.4.1.1.3.2.5.3">2</cn></apply><apply id="S3.E16.m2.4.4.1.1.3.2.6.cmml" xref="S3.E16.m2.4.4.1.1.3.2.6"><csymbol cd="latexml" id="S3.E16.m2.4.4.1.1.3.2.6.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.6.1">differential-d</csymbol><apply id="S3.E16.m2.4.4.1.1.3.2.6.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.6.2"><csymbol cd="ambiguous" id="S3.E16.m2.4.4.1.1.3.2.6.2.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.6.2">subscript</csymbol><ci id="S3.E16.m2.4.4.1.1.3.2.6.2.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.6.2.2">𝑦</ci><cn id="S3.E16.m2.4.4.1.1.3.2.6.2.3.cmml" type="integer" xref="S3.E16.m2.4.4.1.1.3.2.6.2.3">1</cn></apply></apply><apply id="S3.E16.m2.4.4.1.1.3.2.7.cmml" xref="S3.E16.m2.4.4.1.1.3.2.7"><csymbol cd="latexml" id="S3.E16.m2.4.4.1.1.3.2.7.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.7.1">differential-d</csymbol><apply id="S3.E16.m2.4.4.1.1.3.2.7.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.7.2"><csymbol cd="ambiguous" id="S3.E16.m2.4.4.1.1.3.2.7.2.1.cmml" xref="S3.E16.m2.4.4.1.1.3.2.7.2">subscript</csymbol><ci id="S3.E16.m2.4.4.1.1.3.2.7.2.2.cmml" xref="S3.E16.m2.4.4.1.1.3.2.7.2.2">𝑦</ci><cn id="S3.E16.m2.4.4.1.1.3.2.7.2.3.cmml" type="integer" xref="S3.E16.m2.4.4.1.1.3.2.7.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E16.m2.4c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}\Sigma^{\theta}_{y_{1},y_{2}}% (x)y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}\;,</annotation><annotation encoding="application/x-llamapun" id="S3.E16.m2.4d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT end_POSTSUBSCRIPT ( italic_x ) italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(16)</span></td> </tr></tbody> </table> </div> </div> </section> <section class="ltx_subsection" id="S3.SS4"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">3.4 </span>Connection to <cite class="ltx_cite ltx_citemacro_citep">(Durasov et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib2" title="">2024</a>)</cite> </h3> <div class="ltx_para" id="S3.SS4.p1"> <p class="ltx_p" id="S3.SS4.p1.4">The idea to estimate the uncertainty in a model by feeding it back its own answers was already proposed by <cite class="ltx_cite ltx_citemacro_citep">(Durasov et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib2" title="">2024</a>)</cite>. For what concerns regression tasks, the authors propose to score a deterministic network <math alttext="\hat{y}=f_{\theta}(x)" class="ltx_Math" display="inline" id="S3.SS4.p1.1.m1.1"><semantics id="S3.SS4.p1.1.m1.1a"><mrow id="S3.SS4.p1.1.m1.1.2" xref="S3.SS4.p1.1.m1.1.2.cmml"><mover accent="true" id="S3.SS4.p1.1.m1.1.2.2" xref="S3.SS4.p1.1.m1.1.2.2.cmml"><mi id="S3.SS4.p1.1.m1.1.2.2.2" xref="S3.SS4.p1.1.m1.1.2.2.2.cmml">y</mi><mo id="S3.SS4.p1.1.m1.1.2.2.1" xref="S3.SS4.p1.1.m1.1.2.2.1.cmml">^</mo></mover><mo id="S3.SS4.p1.1.m1.1.2.1" xref="S3.SS4.p1.1.m1.1.2.1.cmml">=</mo><mrow id="S3.SS4.p1.1.m1.1.2.3" xref="S3.SS4.p1.1.m1.1.2.3.cmml"><msub id="S3.SS4.p1.1.m1.1.2.3.2" xref="S3.SS4.p1.1.m1.1.2.3.2.cmml"><mi id="S3.SS4.p1.1.m1.1.2.3.2.2" xref="S3.SS4.p1.1.m1.1.2.3.2.2.cmml">f</mi><mi id="S3.SS4.p1.1.m1.1.2.3.2.3" xref="S3.SS4.p1.1.m1.1.2.3.2.3.cmml">θ</mi></msub><mo id="S3.SS4.p1.1.m1.1.2.3.1" xref="S3.SS4.p1.1.m1.1.2.3.1.cmml">⁢</mo><mrow id="S3.SS4.p1.1.m1.1.2.3.3.2" xref="S3.SS4.p1.1.m1.1.2.3.cmml"><mo id="S3.SS4.p1.1.m1.1.2.3.3.2.1" stretchy="false" xref="S3.SS4.p1.1.m1.1.2.3.cmml">(</mo><mi id="S3.SS4.p1.1.m1.1.1" xref="S3.SS4.p1.1.m1.1.1.cmml">x</mi><mo id="S3.SS4.p1.1.m1.1.2.3.3.2.2" stretchy="false" xref="S3.SS4.p1.1.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS4.p1.1.m1.1b"><apply id="S3.SS4.p1.1.m1.1.2.cmml" xref="S3.SS4.p1.1.m1.1.2"><eq id="S3.SS4.p1.1.m1.1.2.1.cmml" xref="S3.SS4.p1.1.m1.1.2.1"></eq><apply id="S3.SS4.p1.1.m1.1.2.2.cmml" xref="S3.SS4.p1.1.m1.1.2.2"><ci id="S3.SS4.p1.1.m1.1.2.2.1.cmml" xref="S3.SS4.p1.1.m1.1.2.2.1">^</ci><ci id="S3.SS4.p1.1.m1.1.2.2.2.cmml" xref="S3.SS4.p1.1.m1.1.2.2.2">𝑦</ci></apply><apply id="S3.SS4.p1.1.m1.1.2.3.cmml" xref="S3.SS4.p1.1.m1.1.2.3"><times id="S3.SS4.p1.1.m1.1.2.3.1.cmml" xref="S3.SS4.p1.1.m1.1.2.3.1"></times><apply id="S3.SS4.p1.1.m1.1.2.3.2.cmml" xref="S3.SS4.p1.1.m1.1.2.3.2"><csymbol cd="ambiguous" id="S3.SS4.p1.1.m1.1.2.3.2.1.cmml" xref="S3.SS4.p1.1.m1.1.2.3.2">subscript</csymbol><ci id="S3.SS4.p1.1.m1.1.2.3.2.2.cmml" xref="S3.SS4.p1.1.m1.1.2.3.2.2">𝑓</ci><ci id="S3.SS4.p1.1.m1.1.2.3.2.3.cmml" xref="S3.SS4.p1.1.m1.1.2.3.2.3">𝜃</ci></apply><ci id="S3.SS4.p1.1.m1.1.1.cmml" xref="S3.SS4.p1.1.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS4.p1.1.m1.1c">\hat{y}=f_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="S3.SS4.p1.1.m1.1d">over^ start_ARG italic_y end_ARG = italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math> twice, once with an uninformative constant <math alttext="\hat{y}_{1}=f_{\theta}(x|y_{0})" class="ltx_Math" display="inline" id="S3.SS4.p1.2.m2.1"><semantics id="S3.SS4.p1.2.m2.1a"><mrow id="S3.SS4.p1.2.m2.1.1" xref="S3.SS4.p1.2.m2.1.1.cmml"><msub id="S3.SS4.p1.2.m2.1.1.3" xref="S3.SS4.p1.2.m2.1.1.3.cmml"><mover accent="true" id="S3.SS4.p1.2.m2.1.1.3.2" xref="S3.SS4.p1.2.m2.1.1.3.2.cmml"><mi id="S3.SS4.p1.2.m2.1.1.3.2.2" xref="S3.SS4.p1.2.m2.1.1.3.2.2.cmml">y</mi><mo id="S3.SS4.p1.2.m2.1.1.3.2.1" xref="S3.SS4.p1.2.m2.1.1.3.2.1.cmml">^</mo></mover><mn id="S3.SS4.p1.2.m2.1.1.3.3" xref="S3.SS4.p1.2.m2.1.1.3.3.cmml">1</mn></msub><mo id="S3.SS4.p1.2.m2.1.1.2" xref="S3.SS4.p1.2.m2.1.1.2.cmml">=</mo><mrow id="S3.SS4.p1.2.m2.1.1.1" xref="S3.SS4.p1.2.m2.1.1.1.cmml"><msub id="S3.SS4.p1.2.m2.1.1.1.3" xref="S3.SS4.p1.2.m2.1.1.1.3.cmml"><mi id="S3.SS4.p1.2.m2.1.1.1.3.2" xref="S3.SS4.p1.2.m2.1.1.1.3.2.cmml">f</mi><mi id="S3.SS4.p1.2.m2.1.1.1.3.3" xref="S3.SS4.p1.2.m2.1.1.1.3.3.cmml">θ</mi></msub><mo id="S3.SS4.p1.2.m2.1.1.1.2" xref="S3.SS4.p1.2.m2.1.1.1.2.cmml">⁢</mo><mrow id="S3.SS4.p1.2.m2.1.1.1.1.1" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.cmml"><mo id="S3.SS4.p1.2.m2.1.1.1.1.1.2" stretchy="false" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.cmml">(</mo><mrow id="S3.SS4.p1.2.m2.1.1.1.1.1.1" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.cmml"><mi id="S3.SS4.p1.2.m2.1.1.1.1.1.1.2" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.2.cmml">x</mi><mo fence="false" id="S3.SS4.p1.2.m2.1.1.1.1.1.1.1" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.1.cmml">|</mo><msub id="S3.SS4.p1.2.m2.1.1.1.1.1.1.3" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.cmml"><mi id="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.2" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.2.cmml">y</mi><mn id="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.3" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.3.cmml">0</mn></msub></mrow><mo id="S3.SS4.p1.2.m2.1.1.1.1.1.3" stretchy="false" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS4.p1.2.m2.1b"><apply id="S3.SS4.p1.2.m2.1.1.cmml" xref="S3.SS4.p1.2.m2.1.1"><eq id="S3.SS4.p1.2.m2.1.1.2.cmml" xref="S3.SS4.p1.2.m2.1.1.2"></eq><apply id="S3.SS4.p1.2.m2.1.1.3.cmml" xref="S3.SS4.p1.2.m2.1.1.3"><csymbol cd="ambiguous" id="S3.SS4.p1.2.m2.1.1.3.1.cmml" xref="S3.SS4.p1.2.m2.1.1.3">subscript</csymbol><apply id="S3.SS4.p1.2.m2.1.1.3.2.cmml" xref="S3.SS4.p1.2.m2.1.1.3.2"><ci id="S3.SS4.p1.2.m2.1.1.3.2.1.cmml" xref="S3.SS4.p1.2.m2.1.1.3.2.1">^</ci><ci id="S3.SS4.p1.2.m2.1.1.3.2.2.cmml" xref="S3.SS4.p1.2.m2.1.1.3.2.2">𝑦</ci></apply><cn id="S3.SS4.p1.2.m2.1.1.3.3.cmml" type="integer" xref="S3.SS4.p1.2.m2.1.1.3.3">1</cn></apply><apply id="S3.SS4.p1.2.m2.1.1.1.cmml" xref="S3.SS4.p1.2.m2.1.1.1"><times id="S3.SS4.p1.2.m2.1.1.1.2.cmml" xref="S3.SS4.p1.2.m2.1.1.1.2"></times><apply id="S3.SS4.p1.2.m2.1.1.1.3.cmml" xref="S3.SS4.p1.2.m2.1.1.1.3"><csymbol cd="ambiguous" id="S3.SS4.p1.2.m2.1.1.1.3.1.cmml" xref="S3.SS4.p1.2.m2.1.1.1.3">subscript</csymbol><ci id="S3.SS4.p1.2.m2.1.1.1.3.2.cmml" xref="S3.SS4.p1.2.m2.1.1.1.3.2">𝑓</ci><ci id="S3.SS4.p1.2.m2.1.1.1.3.3.cmml" xref="S3.SS4.p1.2.m2.1.1.1.3.3">𝜃</ci></apply><apply id="S3.SS4.p1.2.m2.1.1.1.1.1.1.cmml" xref="S3.SS4.p1.2.m2.1.1.1.1.1"><csymbol cd="latexml" id="S3.SS4.p1.2.m2.1.1.1.1.1.1.1.cmml" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.SS4.p1.2.m2.1.1.1.1.1.1.2.cmml" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.2">𝑥</ci><apply id="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.cmml" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.1.cmml" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.3">subscript</csymbol><ci id="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.2.cmml" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.2">𝑦</ci><cn id="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.3.cmml" type="integer" xref="S3.SS4.p1.2.m2.1.1.1.1.1.1.3.3">0</cn></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS4.p1.2.m2.1c">\hat{y}_{1}=f_{\theta}(x|y_{0})</annotation><annotation encoding="application/x-llamapun" id="S3.SS4.p1.2.m2.1d">over^ start_ARG italic_y end_ARG start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT = italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x | italic_y start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )</annotation></semantics></math> and a second concatenating the first answer to the input <math alttext="\hat{y}_{2}=f_{\theta}(x|\hat{y}_{1})" class="ltx_Math" display="inline" id="S3.SS4.p1.3.m3.1"><semantics id="S3.SS4.p1.3.m3.1a"><mrow id="S3.SS4.p1.3.m3.1.1" xref="S3.SS4.p1.3.m3.1.1.cmml"><msub id="S3.SS4.p1.3.m3.1.1.3" xref="S3.SS4.p1.3.m3.1.1.3.cmml"><mover accent="true" id="S3.SS4.p1.3.m3.1.1.3.2" xref="S3.SS4.p1.3.m3.1.1.3.2.cmml"><mi id="S3.SS4.p1.3.m3.1.1.3.2.2" xref="S3.SS4.p1.3.m3.1.1.3.2.2.cmml">y</mi><mo id="S3.SS4.p1.3.m3.1.1.3.2.1" xref="S3.SS4.p1.3.m3.1.1.3.2.1.cmml">^</mo></mover><mn id="S3.SS4.p1.3.m3.1.1.3.3" xref="S3.SS4.p1.3.m3.1.1.3.3.cmml">2</mn></msub><mo id="S3.SS4.p1.3.m3.1.1.2" xref="S3.SS4.p1.3.m3.1.1.2.cmml">=</mo><mrow id="S3.SS4.p1.3.m3.1.1.1" xref="S3.SS4.p1.3.m3.1.1.1.cmml"><msub id="S3.SS4.p1.3.m3.1.1.1.3" xref="S3.SS4.p1.3.m3.1.1.1.3.cmml"><mi id="S3.SS4.p1.3.m3.1.1.1.3.2" xref="S3.SS4.p1.3.m3.1.1.1.3.2.cmml">f</mi><mi id="S3.SS4.p1.3.m3.1.1.1.3.3" xref="S3.SS4.p1.3.m3.1.1.1.3.3.cmml">θ</mi></msub><mo id="S3.SS4.p1.3.m3.1.1.1.2" xref="S3.SS4.p1.3.m3.1.1.1.2.cmml">⁢</mo><mrow id="S3.SS4.p1.3.m3.1.1.1.1.1" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.cmml"><mo id="S3.SS4.p1.3.m3.1.1.1.1.1.2" stretchy="false" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.cmml">(</mo><mrow id="S3.SS4.p1.3.m3.1.1.1.1.1.1" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.cmml"><mi id="S3.SS4.p1.3.m3.1.1.1.1.1.1.2" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.2.cmml">x</mi><mo fence="false" id="S3.SS4.p1.3.m3.1.1.1.1.1.1.1" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.1.cmml">|</mo><msub id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.cmml"><mover accent="true" id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.cmml"><mi id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.2" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.2.cmml">y</mi><mo id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.1" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.1.cmml">^</mo></mover><mn id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.3" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.3.cmml">1</mn></msub></mrow><mo id="S3.SS4.p1.3.m3.1.1.1.1.1.3" stretchy="false" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS4.p1.3.m3.1b"><apply id="S3.SS4.p1.3.m3.1.1.cmml" xref="S3.SS4.p1.3.m3.1.1"><eq id="S3.SS4.p1.3.m3.1.1.2.cmml" xref="S3.SS4.p1.3.m3.1.1.2"></eq><apply id="S3.SS4.p1.3.m3.1.1.3.cmml" xref="S3.SS4.p1.3.m3.1.1.3"><csymbol cd="ambiguous" id="S3.SS4.p1.3.m3.1.1.3.1.cmml" xref="S3.SS4.p1.3.m3.1.1.3">subscript</csymbol><apply id="S3.SS4.p1.3.m3.1.1.3.2.cmml" xref="S3.SS4.p1.3.m3.1.1.3.2"><ci id="S3.SS4.p1.3.m3.1.1.3.2.1.cmml" xref="S3.SS4.p1.3.m3.1.1.3.2.1">^</ci><ci id="S3.SS4.p1.3.m3.1.1.3.2.2.cmml" xref="S3.SS4.p1.3.m3.1.1.3.2.2">𝑦</ci></apply><cn id="S3.SS4.p1.3.m3.1.1.3.3.cmml" type="integer" xref="S3.SS4.p1.3.m3.1.1.3.3">2</cn></apply><apply id="S3.SS4.p1.3.m3.1.1.1.cmml" xref="S3.SS4.p1.3.m3.1.1.1"><times id="S3.SS4.p1.3.m3.1.1.1.2.cmml" xref="S3.SS4.p1.3.m3.1.1.1.2"></times><apply id="S3.SS4.p1.3.m3.1.1.1.3.cmml" xref="S3.SS4.p1.3.m3.1.1.1.3"><csymbol cd="ambiguous" id="S3.SS4.p1.3.m3.1.1.1.3.1.cmml" xref="S3.SS4.p1.3.m3.1.1.1.3">subscript</csymbol><ci id="S3.SS4.p1.3.m3.1.1.1.3.2.cmml" xref="S3.SS4.p1.3.m3.1.1.1.3.2">𝑓</ci><ci id="S3.SS4.p1.3.m3.1.1.1.3.3.cmml" xref="S3.SS4.p1.3.m3.1.1.1.3.3">𝜃</ci></apply><apply id="S3.SS4.p1.3.m3.1.1.1.1.1.1.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1"><csymbol cd="latexml" id="S3.SS4.p1.3.m3.1.1.1.1.1.1.1.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.SS4.p1.3.m3.1.1.1.1.1.1.2.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.2">𝑥</ci><apply id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.1.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3">subscript</csymbol><apply id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2"><ci id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.1.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.1">^</ci><ci id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.2.cmml" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.2.2">𝑦</ci></apply><cn id="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.3.cmml" type="integer" xref="S3.SS4.p1.3.m3.1.1.1.1.1.1.3.3">1</cn></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS4.p1.3.m3.1c">\hat{y}_{2}=f_{\theta}(x|\hat{y}_{1})</annotation><annotation encoding="application/x-llamapun" id="S3.SS4.p1.3.m3.1d">over^ start_ARG italic_y end_ARG start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT = italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x | over^ start_ARG italic_y end_ARG start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT )</annotation></semantics></math>. They then use <math alttext="u=\sqrt{(\hat{y}_{1}-\hat{y}_{2})^{2}}" class="ltx_Math" display="inline" id="S3.SS4.p1.4.m4.1"><semantics id="S3.SS4.p1.4.m4.1a"><mrow id="S3.SS4.p1.4.m4.1.2" xref="S3.SS4.p1.4.m4.1.2.cmml"><mi id="S3.SS4.p1.4.m4.1.2.2" xref="S3.SS4.p1.4.m4.1.2.2.cmml">u</mi><mo id="S3.SS4.p1.4.m4.1.2.1" xref="S3.SS4.p1.4.m4.1.2.1.cmml">=</mo><msqrt id="S3.SS4.p1.4.m4.1.1" xref="S3.SS4.p1.4.m4.1.1.cmml"><msup id="S3.SS4.p1.4.m4.1.1.1" xref="S3.SS4.p1.4.m4.1.1.1.cmml"><mrow id="S3.SS4.p1.4.m4.1.1.1.1.1" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.cmml"><mo id="S3.SS4.p1.4.m4.1.1.1.1.1.2" stretchy="false" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.cmml">(</mo><mrow id="S3.SS4.p1.4.m4.1.1.1.1.1.1" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.cmml"><msub id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.cmml"><mover accent="true" id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.cmml"><mi id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.2" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.2.cmml">y</mi><mo id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.1" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.1.cmml">^</mo></mover><mn id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.3" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo id="S3.SS4.p1.4.m4.1.1.1.1.1.1.1" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.1.cmml">−</mo><msub id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.cmml"><mover accent="true" id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.cmml"><mi id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.2" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.2.cmml">y</mi><mo id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.1" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.1.cmml">^</mo></mover><mn id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.3" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.3.cmml">2</mn></msub></mrow><mo id="S3.SS4.p1.4.m4.1.1.1.1.1.3" stretchy="false" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.cmml">)</mo></mrow><mn id="S3.SS4.p1.4.m4.1.1.1.3" xref="S3.SS4.p1.4.m4.1.1.1.3.cmml">2</mn></msup></msqrt></mrow><annotation-xml encoding="MathML-Content" id="S3.SS4.p1.4.m4.1b"><apply id="S3.SS4.p1.4.m4.1.2.cmml" xref="S3.SS4.p1.4.m4.1.2"><eq id="S3.SS4.p1.4.m4.1.2.1.cmml" xref="S3.SS4.p1.4.m4.1.2.1"></eq><ci id="S3.SS4.p1.4.m4.1.2.2.cmml" xref="S3.SS4.p1.4.m4.1.2.2">𝑢</ci><apply id="S3.SS4.p1.4.m4.1.1.cmml" xref="S3.SS4.p1.4.m4.1.1"><root id="S3.SS4.p1.4.m4.1.1a.cmml" xref="S3.SS4.p1.4.m4.1.1"></root><apply id="S3.SS4.p1.4.m4.1.1.1.cmml" xref="S3.SS4.p1.4.m4.1.1.1"><csymbol cd="ambiguous" id="S3.SS4.p1.4.m4.1.1.1.2.cmml" xref="S3.SS4.p1.4.m4.1.1.1">superscript</csymbol><apply id="S3.SS4.p1.4.m4.1.1.1.1.1.1.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1"><minus id="S3.SS4.p1.4.m4.1.1.1.1.1.1.1.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.1"></minus><apply id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.1.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2">subscript</csymbol><apply id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2"><ci id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.1.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.1">^</ci><ci id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.2.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.2.2">𝑦</ci></apply><cn id="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.2.3">1</cn></apply><apply id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.1.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3">subscript</csymbol><apply id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2"><ci id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.1.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.1">^</ci><ci id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.2.cmml" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.2.2">𝑦</ci></apply><cn id="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.3.cmml" type="integer" xref="S3.SS4.p1.4.m4.1.1.1.1.1.1.3.3">2</cn></apply></apply><cn id="S3.SS4.p1.4.m4.1.1.1.3.cmml" type="integer" xref="S3.SS4.p1.4.m4.1.1.1.3">2</cn></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS4.p1.4.m4.1c">u=\sqrt{(\hat{y}_{1}-\hat{y}_{2})^{2}}</annotation><annotation encoding="application/x-llamapun" id="S3.SS4.p1.4.m4.1d">italic_u = square-root start_ARG ( over^ start_ARG italic_y end_ARG start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT - over^ start_ARG italic_y end_ARG start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT end_ARG</annotation></semantics></math> as a measure of the uncertainty.</p> </div> <div class="ltx_para" id="S3.SS4.p2"> <p class="ltx_p" id="S3.SS4.p2.1">To start analyzing this methodology, let’s make the hypothesis that the underlying phenomenon is itself deterministic, thus having zero aleatoric uncertainty. Then, all probability densities collapse to a Dirac delta, <math alttext="p(y|x)=\delta(y-f(x))" class="ltx_Math" display="inline" id="S3.SS4.p2.1.m1.3"><semantics id="S3.SS4.p2.1.m1.3a"><mrow id="S3.SS4.p2.1.m1.3.3" xref="S3.SS4.p2.1.m1.3.3.cmml"><mrow id="S3.SS4.p2.1.m1.2.2.1" xref="S3.SS4.p2.1.m1.2.2.1.cmml"><mi id="S3.SS4.p2.1.m1.2.2.1.3" xref="S3.SS4.p2.1.m1.2.2.1.3.cmml">p</mi><mo id="S3.SS4.p2.1.m1.2.2.1.2" xref="S3.SS4.p2.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="S3.SS4.p2.1.m1.2.2.1.1.1" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.cmml"><mo id="S3.SS4.p2.1.m1.2.2.1.1.1.2" stretchy="false" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.cmml">(</mo><mrow id="S3.SS4.p2.1.m1.2.2.1.1.1.1" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.cmml"><mi id="S3.SS4.p2.1.m1.2.2.1.1.1.1.2" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.SS4.p2.1.m1.2.2.1.1.1.1.1" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.1.cmml">|</mo><mi id="S3.SS4.p2.1.m1.2.2.1.1.1.1.3" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.SS4.p2.1.m1.2.2.1.1.1.3" stretchy="false" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S3.SS4.p2.1.m1.3.3.3" xref="S3.SS4.p2.1.m1.3.3.3.cmml">=</mo><mrow id="S3.SS4.p2.1.m1.3.3.2" xref="S3.SS4.p2.1.m1.3.3.2.cmml"><mi id="S3.SS4.p2.1.m1.3.3.2.3" xref="S3.SS4.p2.1.m1.3.3.2.3.cmml">δ</mi><mo id="S3.SS4.p2.1.m1.3.3.2.2" xref="S3.SS4.p2.1.m1.3.3.2.2.cmml">⁢</mo><mrow id="S3.SS4.p2.1.m1.3.3.2.1.1" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.cmml"><mo id="S3.SS4.p2.1.m1.3.3.2.1.1.2" stretchy="false" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.cmml">(</mo><mrow id="S3.SS4.p2.1.m1.3.3.2.1.1.1" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.cmml"><mi id="S3.SS4.p2.1.m1.3.3.2.1.1.1.2" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.2.cmml">y</mi><mo id="S3.SS4.p2.1.m1.3.3.2.1.1.1.1" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.1.cmml">−</mo><mrow id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.cmml"><mi id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.2" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.2.cmml">f</mi><mo id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.1" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.1.cmml">⁢</mo><mrow id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.3.2" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.cmml"><mo id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.3.2.1" stretchy="false" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.cmml">(</mo><mi id="S3.SS4.p2.1.m1.1.1" xref="S3.SS4.p2.1.m1.1.1.cmml">x</mi><mo id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.3.2.2" stretchy="false" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="S3.SS4.p2.1.m1.3.3.2.1.1.3" stretchy="false" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.SS4.p2.1.m1.3b"><apply id="S3.SS4.p2.1.m1.3.3.cmml" xref="S3.SS4.p2.1.m1.3.3"><eq id="S3.SS4.p2.1.m1.3.3.3.cmml" xref="S3.SS4.p2.1.m1.3.3.3"></eq><apply id="S3.SS4.p2.1.m1.2.2.1.cmml" xref="S3.SS4.p2.1.m1.2.2.1"><times id="S3.SS4.p2.1.m1.2.2.1.2.cmml" xref="S3.SS4.p2.1.m1.2.2.1.2"></times><ci id="S3.SS4.p2.1.m1.2.2.1.3.cmml" xref="S3.SS4.p2.1.m1.2.2.1.3">𝑝</ci><apply id="S3.SS4.p2.1.m1.2.2.1.1.1.1.cmml" xref="S3.SS4.p2.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="S3.SS4.p2.1.m1.2.2.1.1.1.1.1.cmml" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.1">conditional</csymbol><ci id="S3.SS4.p2.1.m1.2.2.1.1.1.1.2.cmml" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.2">𝑦</ci><ci id="S3.SS4.p2.1.m1.2.2.1.1.1.1.3.cmml" xref="S3.SS4.p2.1.m1.2.2.1.1.1.1.3">𝑥</ci></apply></apply><apply id="S3.SS4.p2.1.m1.3.3.2.cmml" xref="S3.SS4.p2.1.m1.3.3.2"><times id="S3.SS4.p2.1.m1.3.3.2.2.cmml" xref="S3.SS4.p2.1.m1.3.3.2.2"></times><ci id="S3.SS4.p2.1.m1.3.3.2.3.cmml" xref="S3.SS4.p2.1.m1.3.3.2.3">𝛿</ci><apply id="S3.SS4.p2.1.m1.3.3.2.1.1.1.cmml" xref="S3.SS4.p2.1.m1.3.3.2.1.1"><minus id="S3.SS4.p2.1.m1.3.3.2.1.1.1.1.cmml" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.1"></minus><ci id="S3.SS4.p2.1.m1.3.3.2.1.1.1.2.cmml" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.2">𝑦</ci><apply id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.cmml" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3"><times id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.1.cmml" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.1"></times><ci id="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.2.cmml" xref="S3.SS4.p2.1.m1.3.3.2.1.1.1.3.2">𝑓</ci><ci id="S3.SS4.p2.1.m1.1.1.cmml" xref="S3.SS4.p2.1.m1.1.1">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.SS4.p2.1.m1.3c">p(y|x)=\delta(y-f(x))</annotation><annotation encoding="application/x-llamapun" id="S3.SS4.p2.1.m1.3d">italic_p ( italic_y | italic_x ) = italic_δ ( italic_y - italic_f ( italic_x ) )</annotation></semantics></math>. Therefore:</p> </div> <div class="ltx_theorem ltx_theorem_corollary" id="S3.Thmtheorem4"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem4.1.1.1">Corollary 3.4</span></span><span class="ltx_text ltx_font_bold" id="S3.Thmtheorem4.2.2">.</span> </h6> <div class="ltx_para" id="S3.Thmtheorem4.p1"> <p class="ltx_p" id="S3.Thmtheorem4.p1.3"><span class="ltx_text ltx_font_italic" id="S3.Thmtheorem4.p1.3.3">Let <math alttext="p_{\theta}(y|x)" class="ltx_Math" display="inline" id="S3.Thmtheorem4.p1.1.1.m1.1"><semantics id="S3.Thmtheorem4.p1.1.1.m1.1a"><mrow id="S3.Thmtheorem4.p1.1.1.m1.1.1" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.cmml"><msub id="S3.Thmtheorem4.p1.1.1.m1.1.1.3" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.3.cmml"><mi id="S3.Thmtheorem4.p1.1.1.m1.1.1.3.2" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.3.2.cmml">p</mi><mi id="S3.Thmtheorem4.p1.1.1.m1.1.1.3.3" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="S3.Thmtheorem4.p1.1.1.m1.1.1.2" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml"><mo id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.2" stretchy="false" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.1" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.3" stretchy="false" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem4.p1.1.1.m1.1b"><apply id="S3.Thmtheorem4.p1.1.1.m1.1.1.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1"><times id="S3.Thmtheorem4.p1.1.1.m1.1.1.2.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.2"></times><apply id="S3.Thmtheorem4.p1.1.1.m1.1.1.3.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="S3.Thmtheorem4.p1.1.1.m1.1.1.3.1.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.3">subscript</csymbol><ci id="S3.Thmtheorem4.p1.1.1.m1.1.1.3.2.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.3.2">𝑝</ci><ci id="S3.Thmtheorem4.p1.1.1.m1.1.1.3.3.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2">𝑦</ci><ci id="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3.cmml" xref="S3.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem4.p1.1.1.m1.1c">p_{\theta}(y|x)</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem4.p1.1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x )</annotation></semantics></math> be a deterministic network, i.e. <math alttext="p_{\theta}(y|x)=\delta(y-f_{\theta}(x))" class="ltx_Math" display="inline" id="S3.Thmtheorem4.p1.2.2.m2.3"><semantics id="S3.Thmtheorem4.p1.2.2.m2.3a"><mrow id="S3.Thmtheorem4.p1.2.2.m2.3.3" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.cmml"><mrow id="S3.Thmtheorem4.p1.2.2.m2.2.2.1" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.cmml"><msub id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.cmml"><mi id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.2" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.2.cmml">p</mi><mi id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.3" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.3.cmml">θ</mi></msub><mo id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.2" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.2.cmml">⁢</mo><mrow id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.cmml"><mo id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.2" stretchy="false" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.cmml">(</mo><mrow id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.cmml"><mi id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.2" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.2.cmml">y</mi><mo fence="false" id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.1" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.1.cmml">|</mo><mi id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.3" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.3" stretchy="false" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.3" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.3.cmml">=</mo><mrow id="S3.Thmtheorem4.p1.2.2.m2.3.3.2" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.cmml"><mi id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.3" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.3.cmml">δ</mi><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.2" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.2.cmml">⁢</mo><mrow id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.cmml"><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.2" stretchy="false" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.cmml">(</mo><mrow id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.cmml"><mi id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.2" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.2.cmml">y</mi><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.1" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.1.cmml">−</mo><mrow id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.cmml"><msub id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.cmml"><mi id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.2" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.2.cmml">f</mi><mi id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.3" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.3.cmml">θ</mi></msub><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.1" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.1.cmml">⁢</mo><mrow id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.3.2" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.cmml"><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.3.2.1" stretchy="false" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.cmml">(</mo><mi id="S3.Thmtheorem4.p1.2.2.m2.1.1" xref="S3.Thmtheorem4.p1.2.2.m2.1.1.cmml">x</mi><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.3.2.2" stretchy="false" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.3" stretchy="false" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem4.p1.2.2.m2.3b"><apply id="S3.Thmtheorem4.p1.2.2.m2.3.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3"><eq id="S3.Thmtheorem4.p1.2.2.m2.3.3.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.3"></eq><apply id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1"><times id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.2"></times><apply id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3"><csymbol cd="ambiguous" id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3">subscript</csymbol><ci id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.2">𝑝</ci><ci id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.3.3">𝜃</ci></apply><apply id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1"><csymbol cd="latexml" id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.1">conditional</csymbol><ci id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.2">𝑦</ci><ci id="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.2.2.1.1.1.1.3">𝑥</ci></apply></apply><apply id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2"><times id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.2"></times><ci id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.3">𝛿</ci><apply id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1"><minus id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.1"></minus><ci id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.2">𝑦</ci><apply id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3"><times id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.1"></times><apply id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2"><csymbol cd="ambiguous" id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2">subscript</csymbol><ci id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.2.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.2">𝑓</ci><ci id="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.3.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.3.3.2.1.1.1.3.2.3">𝜃</ci></apply><ci id="S3.Thmtheorem4.p1.2.2.m2.1.1.cmml" xref="S3.Thmtheorem4.p1.2.2.m2.1.1">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem4.p1.2.2.m2.3c">p_{\theta}(y|x)=\delta(y-f_{\theta}(x))</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem4.p1.2.2.m2.3d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) = italic_δ ( italic_y - italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) )</annotation></semantics></math>. If the model is first order calibrated on couples <math alttext="(x,f(x))" class="ltx_Math" display="inline" id="S3.Thmtheorem4.p1.3.3.m3.3"><semantics id="S3.Thmtheorem4.p1.3.3.m3.3a"><mrow id="S3.Thmtheorem4.p1.3.3.m3.3.3.1" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.2.cmml"><mo id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.2" stretchy="false" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.2.cmml">(</mo><mi id="S3.Thmtheorem4.p1.3.3.m3.2.2" xref="S3.Thmtheorem4.p1.3.3.m3.2.2.cmml">x</mi><mo id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.3" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.2.cmml">,</mo><mrow id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.cmml"><mi id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.2" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.2.cmml">f</mi><mo id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.1" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.1.cmml">⁢</mo><mrow id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.3.2" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.cmml"><mo id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.3.2.1" stretchy="false" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.cmml">(</mo><mi id="S3.Thmtheorem4.p1.3.3.m3.1.1" xref="S3.Thmtheorem4.p1.3.3.m3.1.1.cmml">x</mi><mo id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.3.2.2" stretchy="false" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.cmml">)</mo></mrow></mrow><mo id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.4" stretchy="false" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.2.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.Thmtheorem4.p1.3.3.m3.3b"><interval closure="open" id="S3.Thmtheorem4.p1.3.3.m3.3.3.2.cmml" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1"><ci id="S3.Thmtheorem4.p1.3.3.m3.2.2.cmml" xref="S3.Thmtheorem4.p1.3.3.m3.2.2">𝑥</ci><apply id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.cmml" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1"><times id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.1.cmml" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.1"></times><ci id="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.2.cmml" xref="S3.Thmtheorem4.p1.3.3.m3.3.3.1.1.2">𝑓</ci><ci id="S3.Thmtheorem4.p1.3.3.m3.1.1.cmml" xref="S3.Thmtheorem4.p1.3.3.m3.1.1">𝑥</ci></apply></interval></annotation-xml><annotation encoding="application/x-tex" id="S3.Thmtheorem4.p1.3.3.m3.3c">(x,f(x))</annotation><annotation encoding="application/x-llamapun" id="S3.Thmtheorem4.p1.3.3.m3.3d">( italic_x , italic_f ( italic_x ) )</annotation></semantics></math>, then:</span></p> <table class="ltx_equation ltx_eqn_table" id="S3.E17"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathrm{cov}_{\theta}(x)=\mathbb{V}[f(X)|[x]]\;," class="ltx_Math" display="block" id="S3.E17.m1.4"><semantics id="S3.E17.m1.4a"><mrow id="S3.E17.m1.4.4.1" xref="S3.E17.m1.4.4.1.1.cmml"><mrow id="S3.E17.m1.4.4.1.1" xref="S3.E17.m1.4.4.1.1.cmml"><mrow id="S3.E17.m1.4.4.1.1.3" xref="S3.E17.m1.4.4.1.1.3.cmml"><msub id="S3.E17.m1.4.4.1.1.3.2" xref="S3.E17.m1.4.4.1.1.3.2.cmml"><mi id="S3.E17.m1.4.4.1.1.3.2.2" xref="S3.E17.m1.4.4.1.1.3.2.2.cmml">cov</mi><mi id="S3.E17.m1.4.4.1.1.3.2.3" xref="S3.E17.m1.4.4.1.1.3.2.3.cmml">θ</mi></msub><mo id="S3.E17.m1.4.4.1.1.3.1" xref="S3.E17.m1.4.4.1.1.3.1.cmml">⁢</mo><mrow id="S3.E17.m1.4.4.1.1.3.3.2" xref="S3.E17.m1.4.4.1.1.3.cmml"><mo id="S3.E17.m1.4.4.1.1.3.3.2.1" stretchy="false" xref="S3.E17.m1.4.4.1.1.3.cmml">(</mo><mi id="S3.E17.m1.1.1" xref="S3.E17.m1.1.1.cmml">x</mi><mo id="S3.E17.m1.4.4.1.1.3.3.2.2" stretchy="false" xref="S3.E17.m1.4.4.1.1.3.cmml">)</mo></mrow></mrow><mo id="S3.E17.m1.4.4.1.1.2" xref="S3.E17.m1.4.4.1.1.2.cmml">=</mo><mrow id="S3.E17.m1.4.4.1.1.1" xref="S3.E17.m1.4.4.1.1.1.cmml"><mi id="S3.E17.m1.4.4.1.1.1.3" xref="S3.E17.m1.4.4.1.1.1.3.cmml">𝕍</mi><mo id="S3.E17.m1.4.4.1.1.1.2" xref="S3.E17.m1.4.4.1.1.1.2.cmml">⁢</mo><mrow id="S3.E17.m1.4.4.1.1.1.1.1" xref="S3.E17.m1.4.4.1.1.1.1.2.cmml"><mo id="S3.E17.m1.4.4.1.1.1.1.1.2" stretchy="false" xref="S3.E17.m1.4.4.1.1.1.1.2.1.cmml">[</mo><mrow id="S3.E17.m1.4.4.1.1.1.1.1.1" xref="S3.E17.m1.4.4.1.1.1.1.1.1.cmml"><mrow id="S3.E17.m1.4.4.1.1.1.1.1.1.2" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.cmml"><mi id="S3.E17.m1.4.4.1.1.1.1.1.1.2.2" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.2.cmml">f</mi><mo id="S3.E17.m1.4.4.1.1.1.1.1.1.2.1" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="S3.E17.m1.4.4.1.1.1.1.1.1.2.3.2" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.cmml"><mo id="S3.E17.m1.4.4.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.cmml">(</mo><mi id="S3.E17.m1.2.2" xref="S3.E17.m1.2.2.cmml">X</mi><mo id="S3.E17.m1.4.4.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo fence="false" id="S3.E17.m1.4.4.1.1.1.1.1.1.1" xref="S3.E17.m1.4.4.1.1.1.1.1.1.1.cmml">|</mo><mrow id="S3.E17.m1.4.4.1.1.1.1.1.1.3.2" xref="S3.E17.m1.4.4.1.1.1.1.1.1.3.1.cmml"><mo id="S3.E17.m1.4.4.1.1.1.1.1.1.3.2.1" stretchy="false" xref="S3.E17.m1.4.4.1.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="S3.E17.m1.3.3" xref="S3.E17.m1.3.3.cmml">x</mi><mo id="S3.E17.m1.4.4.1.1.1.1.1.1.3.2.2" stretchy="false" xref="S3.E17.m1.4.4.1.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="S3.E17.m1.4.4.1.1.1.1.1.3" rspace="0.280em" stretchy="false" xref="S3.E17.m1.4.4.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="S3.E17.m1.4.4.1.2" xref="S3.E17.m1.4.4.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E17.m1.4b"><apply id="S3.E17.m1.4.4.1.1.cmml" xref="S3.E17.m1.4.4.1"><eq id="S3.E17.m1.4.4.1.1.2.cmml" xref="S3.E17.m1.4.4.1.1.2"></eq><apply id="S3.E17.m1.4.4.1.1.3.cmml" xref="S3.E17.m1.4.4.1.1.3"><times id="S3.E17.m1.4.4.1.1.3.1.cmml" xref="S3.E17.m1.4.4.1.1.3.1"></times><apply id="S3.E17.m1.4.4.1.1.3.2.cmml" xref="S3.E17.m1.4.4.1.1.3.2"><csymbol cd="ambiguous" id="S3.E17.m1.4.4.1.1.3.2.1.cmml" xref="S3.E17.m1.4.4.1.1.3.2">subscript</csymbol><ci id="S3.E17.m1.4.4.1.1.3.2.2.cmml" xref="S3.E17.m1.4.4.1.1.3.2.2">cov</ci><ci id="S3.E17.m1.4.4.1.1.3.2.3.cmml" xref="S3.E17.m1.4.4.1.1.3.2.3">𝜃</ci></apply><ci id="S3.E17.m1.1.1.cmml" xref="S3.E17.m1.1.1">𝑥</ci></apply><apply id="S3.E17.m1.4.4.1.1.1.cmml" xref="S3.E17.m1.4.4.1.1.1"><times id="S3.E17.m1.4.4.1.1.1.2.cmml" xref="S3.E17.m1.4.4.1.1.1.2"></times><ci id="S3.E17.m1.4.4.1.1.1.3.cmml" xref="S3.E17.m1.4.4.1.1.1.3">𝕍</ci><apply id="S3.E17.m1.4.4.1.1.1.1.2.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1"><csymbol cd="latexml" id="S3.E17.m1.4.4.1.1.1.1.2.1.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.2">delimited-[]</csymbol><apply id="S3.E17.m1.4.4.1.1.1.1.1.1.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E17.m1.4.4.1.1.1.1.1.1.1.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.1.1">conditional</csymbol><apply id="S3.E17.m1.4.4.1.1.1.1.1.1.2.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2"><times id="S3.E17.m1.4.4.1.1.1.1.1.1.2.1.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.1"></times><ci id="S3.E17.m1.4.4.1.1.1.1.1.1.2.2.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.1.2.2">𝑓</ci><ci id="S3.E17.m1.2.2.cmml" xref="S3.E17.m1.2.2">𝑋</ci></apply><apply id="S3.E17.m1.4.4.1.1.1.1.1.1.3.1.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.1.3.2"><csymbol cd="latexml" id="S3.E17.m1.4.4.1.1.1.1.1.1.3.1.1.cmml" xref="S3.E17.m1.4.4.1.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="S3.E17.m1.3.3.cmml" xref="S3.E17.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E17.m1.4c">\mathrm{cov}_{\theta}(x)=\mathbb{V}[f(X)|[x]]\;,</annotation><annotation encoding="application/x-llamapun" id="S3.E17.m1.4d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = blackboard_V [ italic_f ( italic_X ) | [ italic_x ] ] ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(17)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S3.Thmtheorem4.p1.4"><span class="ltx_text ltx_font_italic" id="S3.Thmtheorem4.p1.4.1">where:</span></p> <table class="ltx_equation ltx_eqn_table" id="S3.E18"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathrm{cov}_{\theta}(x)=f_{\theta}(x)\cdot f_{\theta}(x|f_{\theta})-f_{\theta% }^{2}(x)\;," class="ltx_Math" display="block" id="S3.E18.m1.4"><semantics id="S3.E18.m1.4a"><mrow id="S3.E18.m1.4.4.1" xref="S3.E18.m1.4.4.1.1.cmml"><mrow id="S3.E18.m1.4.4.1.1" xref="S3.E18.m1.4.4.1.1.cmml"><mrow id="S3.E18.m1.4.4.1.1.3" xref="S3.E18.m1.4.4.1.1.3.cmml"><msub id="S3.E18.m1.4.4.1.1.3.2" xref="S3.E18.m1.4.4.1.1.3.2.cmml"><mi id="S3.E18.m1.4.4.1.1.3.2.2" xref="S3.E18.m1.4.4.1.1.3.2.2.cmml">cov</mi><mi id="S3.E18.m1.4.4.1.1.3.2.3" xref="S3.E18.m1.4.4.1.1.3.2.3.cmml">θ</mi></msub><mo id="S3.E18.m1.4.4.1.1.3.1" xref="S3.E18.m1.4.4.1.1.3.1.cmml">⁢</mo><mrow id="S3.E18.m1.4.4.1.1.3.3.2" xref="S3.E18.m1.4.4.1.1.3.cmml"><mo id="S3.E18.m1.4.4.1.1.3.3.2.1" stretchy="false" xref="S3.E18.m1.4.4.1.1.3.cmml">(</mo><mi id="S3.E18.m1.1.1" xref="S3.E18.m1.1.1.cmml">x</mi><mo id="S3.E18.m1.4.4.1.1.3.3.2.2" stretchy="false" xref="S3.E18.m1.4.4.1.1.3.cmml">)</mo></mrow></mrow><mo id="S3.E18.m1.4.4.1.1.2" xref="S3.E18.m1.4.4.1.1.2.cmml">=</mo><mrow id="S3.E18.m1.4.4.1.1.1" xref="S3.E18.m1.4.4.1.1.1.cmml"><mrow id="S3.E18.m1.4.4.1.1.1.1" xref="S3.E18.m1.4.4.1.1.1.1.cmml"><mrow id="S3.E18.m1.4.4.1.1.1.1.3" xref="S3.E18.m1.4.4.1.1.1.1.3.cmml"><mrow id="S3.E18.m1.4.4.1.1.1.1.3.2" xref="S3.E18.m1.4.4.1.1.1.1.3.2.cmml"><msub id="S3.E18.m1.4.4.1.1.1.1.3.2.2" xref="S3.E18.m1.4.4.1.1.1.1.3.2.2.cmml"><mi id="S3.E18.m1.4.4.1.1.1.1.3.2.2.2" xref="S3.E18.m1.4.4.1.1.1.1.3.2.2.2.cmml">f</mi><mi id="S3.E18.m1.4.4.1.1.1.1.3.2.2.3" xref="S3.E18.m1.4.4.1.1.1.1.3.2.2.3.cmml">θ</mi></msub><mo id="S3.E18.m1.4.4.1.1.1.1.3.2.1" xref="S3.E18.m1.4.4.1.1.1.1.3.2.1.cmml">⁢</mo><mrow id="S3.E18.m1.4.4.1.1.1.1.3.2.3.2" xref="S3.E18.m1.4.4.1.1.1.1.3.2.cmml"><mo id="S3.E18.m1.4.4.1.1.1.1.3.2.3.2.1" stretchy="false" xref="S3.E18.m1.4.4.1.1.1.1.3.2.cmml">(</mo><mi id="S3.E18.m1.2.2" xref="S3.E18.m1.2.2.cmml">x</mi><mo id="S3.E18.m1.4.4.1.1.1.1.3.2.3.2.2" rspace="0.055em" stretchy="false" xref="S3.E18.m1.4.4.1.1.1.1.3.2.cmml">)</mo></mrow></mrow><mo id="S3.E18.m1.4.4.1.1.1.1.3.1" rspace="0.222em" xref="S3.E18.m1.4.4.1.1.1.1.3.1.cmml">⋅</mo><msub id="S3.E18.m1.4.4.1.1.1.1.3.3" xref="S3.E18.m1.4.4.1.1.1.1.3.3.cmml"><mi id="S3.E18.m1.4.4.1.1.1.1.3.3.2" xref="S3.E18.m1.4.4.1.1.1.1.3.3.2.cmml">f</mi><mi id="S3.E18.m1.4.4.1.1.1.1.3.3.3" xref="S3.E18.m1.4.4.1.1.1.1.3.3.3.cmml">θ</mi></msub></mrow><mo id="S3.E18.m1.4.4.1.1.1.1.2" xref="S3.E18.m1.4.4.1.1.1.1.2.cmml">⁢</mo><mrow id="S3.E18.m1.4.4.1.1.1.1.1.1" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.cmml"><mo id="S3.E18.m1.4.4.1.1.1.1.1.1.2" stretchy="false" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.cmml">(</mo><mrow id="S3.E18.m1.4.4.1.1.1.1.1.1.1" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.cmml"><mi id="S3.E18.m1.4.4.1.1.1.1.1.1.1.2" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.2.cmml">x</mi><mo fence="false" id="S3.E18.m1.4.4.1.1.1.1.1.1.1.1" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.1.cmml">|</mo><msub id="S3.E18.m1.4.4.1.1.1.1.1.1.1.3" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.cmml"><mi id="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.2" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.2.cmml">f</mi><mi id="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.3" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.3.cmml">θ</mi></msub></mrow><mo id="S3.E18.m1.4.4.1.1.1.1.1.1.3" stretchy="false" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S3.E18.m1.4.4.1.1.1.2" xref="S3.E18.m1.4.4.1.1.1.2.cmml">−</mo><mrow id="S3.E18.m1.4.4.1.1.1.3" xref="S3.E18.m1.4.4.1.1.1.3.cmml"><msubsup id="S3.E18.m1.4.4.1.1.1.3.2" xref="S3.E18.m1.4.4.1.1.1.3.2.cmml"><mi id="S3.E18.m1.4.4.1.1.1.3.2.2.2" xref="S3.E18.m1.4.4.1.1.1.3.2.2.2.cmml">f</mi><mi id="S3.E18.m1.4.4.1.1.1.3.2.2.3" xref="S3.E18.m1.4.4.1.1.1.3.2.2.3.cmml">θ</mi><mn id="S3.E18.m1.4.4.1.1.1.3.2.3" xref="S3.E18.m1.4.4.1.1.1.3.2.3.cmml">2</mn></msubsup><mo id="S3.E18.m1.4.4.1.1.1.3.1" xref="S3.E18.m1.4.4.1.1.1.3.1.cmml">⁢</mo><mrow id="S3.E18.m1.4.4.1.1.1.3.3.2" xref="S3.E18.m1.4.4.1.1.1.3.cmml"><mo id="S3.E18.m1.4.4.1.1.1.3.3.2.1" stretchy="false" xref="S3.E18.m1.4.4.1.1.1.3.cmml">(</mo><mi id="S3.E18.m1.3.3" xref="S3.E18.m1.3.3.cmml">x</mi><mo id="S3.E18.m1.4.4.1.1.1.3.3.2.2" rspace="0.280em" stretchy="false" xref="S3.E18.m1.4.4.1.1.1.3.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S3.E18.m1.4.4.1.2" xref="S3.E18.m1.4.4.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E18.m1.4b"><apply id="S3.E18.m1.4.4.1.1.cmml" xref="S3.E18.m1.4.4.1"><eq id="S3.E18.m1.4.4.1.1.2.cmml" xref="S3.E18.m1.4.4.1.1.2"></eq><apply id="S3.E18.m1.4.4.1.1.3.cmml" xref="S3.E18.m1.4.4.1.1.3"><times id="S3.E18.m1.4.4.1.1.3.1.cmml" xref="S3.E18.m1.4.4.1.1.3.1"></times><apply id="S3.E18.m1.4.4.1.1.3.2.cmml" xref="S3.E18.m1.4.4.1.1.3.2"><csymbol cd="ambiguous" id="S3.E18.m1.4.4.1.1.3.2.1.cmml" xref="S3.E18.m1.4.4.1.1.3.2">subscript</csymbol><ci id="S3.E18.m1.4.4.1.1.3.2.2.cmml" xref="S3.E18.m1.4.4.1.1.3.2.2">cov</ci><ci id="S3.E18.m1.4.4.1.1.3.2.3.cmml" xref="S3.E18.m1.4.4.1.1.3.2.3">𝜃</ci></apply><ci id="S3.E18.m1.1.1.cmml" xref="S3.E18.m1.1.1">𝑥</ci></apply><apply id="S3.E18.m1.4.4.1.1.1.cmml" xref="S3.E18.m1.4.4.1.1.1"><minus id="S3.E18.m1.4.4.1.1.1.2.cmml" xref="S3.E18.m1.4.4.1.1.1.2"></minus><apply id="S3.E18.m1.4.4.1.1.1.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1"><times id="S3.E18.m1.4.4.1.1.1.1.2.cmml" xref="S3.E18.m1.4.4.1.1.1.1.2"></times><apply id="S3.E18.m1.4.4.1.1.1.1.3.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3"><ci id="S3.E18.m1.4.4.1.1.1.1.3.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.1">⋅</ci><apply id="S3.E18.m1.4.4.1.1.1.1.3.2.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.2"><times id="S3.E18.m1.4.4.1.1.1.1.3.2.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.2.1"></times><apply id="S3.E18.m1.4.4.1.1.1.1.3.2.2.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.2.2"><csymbol cd="ambiguous" id="S3.E18.m1.4.4.1.1.1.1.3.2.2.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.2.2">subscript</csymbol><ci id="S3.E18.m1.4.4.1.1.1.1.3.2.2.2.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.2.2.2">𝑓</ci><ci id="S3.E18.m1.4.4.1.1.1.1.3.2.2.3.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.2.2.3">𝜃</ci></apply><ci id="S3.E18.m1.2.2.cmml" xref="S3.E18.m1.2.2">𝑥</ci></apply><apply id="S3.E18.m1.4.4.1.1.1.1.3.3.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.3"><csymbol cd="ambiguous" id="S3.E18.m1.4.4.1.1.1.1.3.3.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.3">subscript</csymbol><ci id="S3.E18.m1.4.4.1.1.1.1.3.3.2.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.3.2">𝑓</ci><ci id="S3.E18.m1.4.4.1.1.1.1.3.3.3.cmml" xref="S3.E18.m1.4.4.1.1.1.1.3.3.3">𝜃</ci></apply></apply><apply id="S3.E18.m1.4.4.1.1.1.1.1.1.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1.1.1"><csymbol cd="latexml" id="S3.E18.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="S3.E18.m1.4.4.1.1.1.1.1.1.1.2.cmml" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.2">𝑥</ci><apply id="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.cmml" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.1.cmml" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.2.cmml" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.2">𝑓</ci><ci id="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.3.cmml" xref="S3.E18.m1.4.4.1.1.1.1.1.1.1.3.3">𝜃</ci></apply></apply></apply><apply id="S3.E18.m1.4.4.1.1.1.3.cmml" xref="S3.E18.m1.4.4.1.1.1.3"><times id="S3.E18.m1.4.4.1.1.1.3.1.cmml" xref="S3.E18.m1.4.4.1.1.1.3.1"></times><apply id="S3.E18.m1.4.4.1.1.1.3.2.cmml" xref="S3.E18.m1.4.4.1.1.1.3.2"><csymbol cd="ambiguous" id="S3.E18.m1.4.4.1.1.1.3.2.1.cmml" xref="S3.E18.m1.4.4.1.1.1.3.2">superscript</csymbol><apply id="S3.E18.m1.4.4.1.1.1.3.2.2.cmml" xref="S3.E18.m1.4.4.1.1.1.3.2"><csymbol cd="ambiguous" id="S3.E18.m1.4.4.1.1.1.3.2.2.1.cmml" xref="S3.E18.m1.4.4.1.1.1.3.2">subscript</csymbol><ci id="S3.E18.m1.4.4.1.1.1.3.2.2.2.cmml" xref="S3.E18.m1.4.4.1.1.1.3.2.2.2">𝑓</ci><ci id="S3.E18.m1.4.4.1.1.1.3.2.2.3.cmml" xref="S3.E18.m1.4.4.1.1.1.3.2.2.3">𝜃</ci></apply><cn id="S3.E18.m1.4.4.1.1.1.3.2.3.cmml" type="integer" xref="S3.E18.m1.4.4.1.1.1.3.2.3">2</cn></apply><ci id="S3.E18.m1.3.3.cmml" xref="S3.E18.m1.3.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E18.m1.4c">\mathrm{cov}_{\theta}(x)=f_{\theta}(x)\cdot f_{\theta}(x|f_{\theta})-f_{\theta% }^{2}(x)\;,</annotation><annotation encoding="application/x-llamapun" id="S3.E18.m1.4d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ⋅ italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x | italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ) - italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(18)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_para" id="S3.SS4.p3"> <p class="ltx_p" id="S3.SS4.p3.1">Notice that this result does not require training on triplets because the sampling process can only produce one outcome.</p> </div> <div class="ltx_para" id="S3.SS4.p4"> <p class="ltx_p" id="S3.SS4.p4.1">This shows that the intuitive uncertainty metric <math alttext="u=|f_{\theta}(x|f_{\theta}(x))-f_{\theta}(x)|" class="ltx_math_unparsed" display="inline" id="S3.SS4.p4.1.m1.1"><semantics id="S3.SS4.p4.1.m1.1a"><mrow id="S3.SS4.p4.1.m1.1b"><mi id="S3.SS4.p4.1.m1.1.2">u</mi><mo id="S3.SS4.p4.1.m1.1.3" rspace="0em">=</mo><mo fence="false" id="S3.SS4.p4.1.m1.1.4" rspace="0.167em" stretchy="false">|</mo><msub id="S3.SS4.p4.1.m1.1.5"><mi id="S3.SS4.p4.1.m1.1.5.2">f</mi><mi id="S3.SS4.p4.1.m1.1.5.3">θ</mi></msub><mrow id="S3.SS4.p4.1.m1.1.6"><mo id="S3.SS4.p4.1.m1.1.6.1" stretchy="false">(</mo><mi id="S3.SS4.p4.1.m1.1.6.2">x</mi><mo fence="false" id="S3.SS4.p4.1.m1.1.6.3" rspace="0.167em" stretchy="false">|</mo><msub id="S3.SS4.p4.1.m1.1.6.4"><mi id="S3.SS4.p4.1.m1.1.6.4.2">f</mi><mi id="S3.SS4.p4.1.m1.1.6.4.3">θ</mi></msub><mrow id="S3.SS4.p4.1.m1.1.6.5"><mo id="S3.SS4.p4.1.m1.1.6.5.1" stretchy="false">(</mo><mi id="S3.SS4.p4.1.m1.1.1">x</mi><mo id="S3.SS4.p4.1.m1.1.6.5.2" stretchy="false">)</mo></mrow><mo id="S3.SS4.p4.1.m1.1.6.6" stretchy="false">)</mo></mrow><mo id="S3.SS4.p4.1.m1.1.7">−</mo><msub id="S3.SS4.p4.1.m1.1.8"><mi id="S3.SS4.p4.1.m1.1.8.2">f</mi><mi id="S3.SS4.p4.1.m1.1.8.3">θ</mi></msub><mrow id="S3.SS4.p4.1.m1.1.9"><mo id="S3.SS4.p4.1.m1.1.9.1" stretchy="false">(</mo><mi id="S3.SS4.p4.1.m1.1.9.2">x</mi><mo id="S3.SS4.p4.1.m1.1.9.3" stretchy="false">)</mo></mrow><mo fence="false" id="S3.SS4.p4.1.m1.1.10" stretchy="false">|</mo></mrow><annotation encoding="application/x-tex" id="S3.SS4.p4.1.m1.1c">u=|f_{\theta}(x|f_{\theta}(x))-f_{\theta}(x)|</annotation><annotation encoding="application/x-llamapun" id="S3.SS4.p4.1.m1.1d">italic_u = | italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x | italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ) - italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) |</annotation></semantics></math> employed by <cite class="ltx_cite ltx_citemacro_citep">(Durasov et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib2" title="">2024</a>)</cite> can be formally related to the theoretical covariance metric as:</p> <table class="ltx_equation ltx_eqn_table" id="S3.E19"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="u=\left|\frac{\mathrm{cov}_{\theta}(x)}{f_{\theta}(x)}\right|\;," class="ltx_Math" display="block" id="S3.E19.m1.3"><semantics id="S3.E19.m1.3a"><mrow id="S3.E19.m1.3.3.1" xref="S3.E19.m1.3.3.1.1.cmml"><mrow id="S3.E19.m1.3.3.1.1" xref="S3.E19.m1.3.3.1.1.cmml"><mi id="S3.E19.m1.3.3.1.1.2" xref="S3.E19.m1.3.3.1.1.2.cmml">u</mi><mo id="S3.E19.m1.3.3.1.1.1" xref="S3.E19.m1.3.3.1.1.1.cmml">=</mo><mrow id="S3.E19.m1.3.3.1.1.3.2" xref="S3.E19.m1.3.3.1.1.3.1.cmml"><mo id="S3.E19.m1.3.3.1.1.3.2.1" xref="S3.E19.m1.3.3.1.1.3.1.1.cmml">|</mo><mfrac id="S3.E19.m1.2.2" xref="S3.E19.m1.2.2.cmml"><mrow id="S3.E19.m1.1.1.1" xref="S3.E19.m1.1.1.1.cmml"><msub id="S3.E19.m1.1.1.1.3" xref="S3.E19.m1.1.1.1.3.cmml"><mi id="S3.E19.m1.1.1.1.3.2" xref="S3.E19.m1.1.1.1.3.2.cmml">cov</mi><mi id="S3.E19.m1.1.1.1.3.3" xref="S3.E19.m1.1.1.1.3.3.cmml">θ</mi></msub><mo id="S3.E19.m1.1.1.1.2" xref="S3.E19.m1.1.1.1.2.cmml">⁢</mo><mrow id="S3.E19.m1.1.1.1.4.2" xref="S3.E19.m1.1.1.1.cmml"><mo id="S3.E19.m1.1.1.1.4.2.1" stretchy="false" xref="S3.E19.m1.1.1.1.cmml">(</mo><mi id="S3.E19.m1.1.1.1.1" xref="S3.E19.m1.1.1.1.1.cmml">x</mi><mo id="S3.E19.m1.1.1.1.4.2.2" stretchy="false" xref="S3.E19.m1.1.1.1.cmml">)</mo></mrow></mrow><mrow id="S3.E19.m1.2.2.2" xref="S3.E19.m1.2.2.2.cmml"><msub id="S3.E19.m1.2.2.2.3" xref="S3.E19.m1.2.2.2.3.cmml"><mi id="S3.E19.m1.2.2.2.3.2" xref="S3.E19.m1.2.2.2.3.2.cmml">f</mi><mi id="S3.E19.m1.2.2.2.3.3" xref="S3.E19.m1.2.2.2.3.3.cmml">θ</mi></msub><mo id="S3.E19.m1.2.2.2.2" xref="S3.E19.m1.2.2.2.2.cmml">⁢</mo><mrow id="S3.E19.m1.2.2.2.4.2" xref="S3.E19.m1.2.2.2.cmml"><mo id="S3.E19.m1.2.2.2.4.2.1" stretchy="false" xref="S3.E19.m1.2.2.2.cmml">(</mo><mi id="S3.E19.m1.2.2.2.1" xref="S3.E19.m1.2.2.2.1.cmml">x</mi><mo id="S3.E19.m1.2.2.2.4.2.2" stretchy="false" xref="S3.E19.m1.2.2.2.cmml">)</mo></mrow></mrow></mfrac><mo id="S3.E19.m1.3.3.1.1.3.2.2" rspace="0.280em" xref="S3.E19.m1.3.3.1.1.3.1.1.cmml">|</mo></mrow></mrow><mo id="S3.E19.m1.3.3.1.2" xref="S3.E19.m1.3.3.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S3.E19.m1.3b"><apply id="S3.E19.m1.3.3.1.1.cmml" xref="S3.E19.m1.3.3.1"><eq id="S3.E19.m1.3.3.1.1.1.cmml" xref="S3.E19.m1.3.3.1.1.1"></eq><ci id="S3.E19.m1.3.3.1.1.2.cmml" xref="S3.E19.m1.3.3.1.1.2">𝑢</ci><apply id="S3.E19.m1.3.3.1.1.3.1.cmml" xref="S3.E19.m1.3.3.1.1.3.2"><abs id="S3.E19.m1.3.3.1.1.3.1.1.cmml" xref="S3.E19.m1.3.3.1.1.3.2.1"></abs><apply id="S3.E19.m1.2.2.cmml" xref="S3.E19.m1.2.2"><divide id="S3.E19.m1.2.2.3.cmml" xref="S3.E19.m1.2.2"></divide><apply id="S3.E19.m1.1.1.1.cmml" xref="S3.E19.m1.1.1.1"><times id="S3.E19.m1.1.1.1.2.cmml" xref="S3.E19.m1.1.1.1.2"></times><apply id="S3.E19.m1.1.1.1.3.cmml" xref="S3.E19.m1.1.1.1.3"><csymbol cd="ambiguous" id="S3.E19.m1.1.1.1.3.1.cmml" xref="S3.E19.m1.1.1.1.3">subscript</csymbol><ci id="S3.E19.m1.1.1.1.3.2.cmml" xref="S3.E19.m1.1.1.1.3.2">cov</ci><ci id="S3.E19.m1.1.1.1.3.3.cmml" xref="S3.E19.m1.1.1.1.3.3">𝜃</ci></apply><ci id="S3.E19.m1.1.1.1.1.cmml" xref="S3.E19.m1.1.1.1.1">𝑥</ci></apply><apply id="S3.E19.m1.2.2.2.cmml" xref="S3.E19.m1.2.2.2"><times id="S3.E19.m1.2.2.2.2.cmml" xref="S3.E19.m1.2.2.2.2"></times><apply id="S3.E19.m1.2.2.2.3.cmml" xref="S3.E19.m1.2.2.2.3"><csymbol cd="ambiguous" id="S3.E19.m1.2.2.2.3.1.cmml" xref="S3.E19.m1.2.2.2.3">subscript</csymbol><ci id="S3.E19.m1.2.2.2.3.2.cmml" xref="S3.E19.m1.2.2.2.3.2">𝑓</ci><ci id="S3.E19.m1.2.2.2.3.3.cmml" xref="S3.E19.m1.2.2.2.3.3">𝜃</ci></apply><ci id="S3.E19.m1.2.2.2.1.cmml" xref="S3.E19.m1.2.2.2.1">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S3.E19.m1.3c">u=\left|\frac{\mathrm{cov}_{\theta}(x)}{f_{\theta}(x)}\right|\;,</annotation><annotation encoding="application/x-llamapun" id="S3.E19.m1.3d">italic_u = | divide start_ARG roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) end_ARG start_ARG italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) end_ARG | ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(19)</span></td> </tr></tbody> </table> </div> </section> </section> <section class="ltx_section" id="S4"> <h2 class="ltx_title ltx_title_section"> <span class="ltx_tag ltx_tag_section">4 </span>Validation</h2> <section class="ltx_subsection" id="S4.SS1"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">4.1 </span>Synthetic Dataset</h3> <div class="ltx_para" id="S4.SS1.p1"> <p class="ltx_p" id="S4.SS1.p1.1">At first, a simple synthetic dataset is presented to convey the main ideas of the paper in a controlled setting.</p> </div> <div class="ltx_para" id="S4.SS1.p2"> <p class="ltx_p" id="S4.SS1.p2.2">To this end, the input is sampled uniformly <math alttext="x\in[-6.0,6.0]" class="ltx_Math" display="inline" id="S4.SS1.p2.1.m1.2"><semantics id="S4.SS1.p2.1.m1.2a"><mrow id="S4.SS1.p2.1.m1.2.2" xref="S4.SS1.p2.1.m1.2.2.cmml"><mi id="S4.SS1.p2.1.m1.2.2.3" xref="S4.SS1.p2.1.m1.2.2.3.cmml">x</mi><mo id="S4.SS1.p2.1.m1.2.2.2" xref="S4.SS1.p2.1.m1.2.2.2.cmml">∈</mo><mrow id="S4.SS1.p2.1.m1.2.2.1.1" xref="S4.SS1.p2.1.m1.2.2.1.2.cmml"><mo id="S4.SS1.p2.1.m1.2.2.1.1.2" stretchy="false" xref="S4.SS1.p2.1.m1.2.2.1.2.cmml">[</mo><mrow id="S4.SS1.p2.1.m1.2.2.1.1.1" xref="S4.SS1.p2.1.m1.2.2.1.1.1.cmml"><mo id="S4.SS1.p2.1.m1.2.2.1.1.1a" xref="S4.SS1.p2.1.m1.2.2.1.1.1.cmml">−</mo><mn id="S4.SS1.p2.1.m1.2.2.1.1.1.2" xref="S4.SS1.p2.1.m1.2.2.1.1.1.2.cmml">6.0</mn></mrow><mo id="S4.SS1.p2.1.m1.2.2.1.1.3" xref="S4.SS1.p2.1.m1.2.2.1.2.cmml">,</mo><mn id="S4.SS1.p2.1.m1.1.1" xref="S4.SS1.p2.1.m1.1.1.cmml">6.0</mn><mo id="S4.SS1.p2.1.m1.2.2.1.1.4" stretchy="false" xref="S4.SS1.p2.1.m1.2.2.1.2.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p2.1.m1.2b"><apply id="S4.SS1.p2.1.m1.2.2.cmml" xref="S4.SS1.p2.1.m1.2.2"><in id="S4.SS1.p2.1.m1.2.2.2.cmml" xref="S4.SS1.p2.1.m1.2.2.2"></in><ci id="S4.SS1.p2.1.m1.2.2.3.cmml" xref="S4.SS1.p2.1.m1.2.2.3">𝑥</ci><interval closure="closed" id="S4.SS1.p2.1.m1.2.2.1.2.cmml" xref="S4.SS1.p2.1.m1.2.2.1.1"><apply id="S4.SS1.p2.1.m1.2.2.1.1.1.cmml" xref="S4.SS1.p2.1.m1.2.2.1.1.1"><minus id="S4.SS1.p2.1.m1.2.2.1.1.1.1.cmml" xref="S4.SS1.p2.1.m1.2.2.1.1.1"></minus><cn id="S4.SS1.p2.1.m1.2.2.1.1.1.2.cmml" type="float" xref="S4.SS1.p2.1.m1.2.2.1.1.1.2">6.0</cn></apply><cn id="S4.SS1.p2.1.m1.1.1.cmml" type="float" xref="S4.SS1.p2.1.m1.1.1">6.0</cn></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p2.1.m1.2c">x\in[-6.0,6.0]</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p2.1.m1.2d">italic_x ∈ [ - 6.0 , 6.0 ]</annotation></semantics></math> and the outputs <math alttext="y" class="ltx_Math" display="inline" id="S4.SS1.p2.2.m2.1"><semantics id="S4.SS1.p2.2.m2.1a"><mi id="S4.SS1.p2.2.m2.1.1" xref="S4.SS1.p2.2.m2.1.1.cmml">y</mi><annotation-xml encoding="MathML-Content" id="S4.SS1.p2.2.m2.1b"><ci id="S4.SS1.p2.2.m2.1.1.cmml" xref="S4.SS1.p2.2.m2.1.1">𝑦</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p2.2.m2.1c">y</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p2.2.m2.1d">italic_y</annotation></semantics></math> are drawn from the distribution:</p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx6"> <tbody id="S4.E20"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle y=\mu(x)+" class="ltx_Math" display="inline" id="S4.E20.m1.1"><semantics id="S4.E20.m1.1a"><mrow id="S4.E20.m1.1.2" xref="S4.E20.m1.1.2.cmml"><mi id="S4.E20.m1.1.2.2" xref="S4.E20.m1.1.2.2.cmml">y</mi><mo id="S4.E20.m1.1.2.1" xref="S4.E20.m1.1.2.1.cmml">=</mo><mrow id="S4.E20.m1.1.2.3" xref="S4.E20.m1.1.2.3.cmml"><mrow id="S4.E20.m1.1.2.3.2" xref="S4.E20.m1.1.2.3.2.cmml"><mi id="S4.E20.m1.1.2.3.2.2" xref="S4.E20.m1.1.2.3.2.2.cmml">μ</mi><mo id="S4.E20.m1.1.2.3.2.1" xref="S4.E20.m1.1.2.3.2.1.cmml">⁢</mo><mrow id="S4.E20.m1.1.2.3.2.3.2" xref="S4.E20.m1.1.2.3.2.cmml"><mo id="S4.E20.m1.1.2.3.2.3.2.1" stretchy="false" xref="S4.E20.m1.1.2.3.2.cmml">(</mo><mi id="S4.E20.m1.1.1" xref="S4.E20.m1.1.1.cmml">x</mi><mo id="S4.E20.m1.1.2.3.2.3.2.2" stretchy="false" xref="S4.E20.m1.1.2.3.2.cmml">)</mo></mrow></mrow><mo id="S4.E20.m1.1.2.3.3" xref="S4.E20.m1.1.2.3.3.cmml">+</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.E20.m1.1b"><apply id="S4.E20.m1.1.2.cmml" xref="S4.E20.m1.1.2"><eq id="S4.E20.m1.1.2.1.cmml" xref="S4.E20.m1.1.2.1"></eq><ci id="S4.E20.m1.1.2.2.cmml" xref="S4.E20.m1.1.2.2">𝑦</ci><apply id="S4.E20.m1.1.2.3.cmml" xref="S4.E20.m1.1.2.3"><csymbol cd="latexml" id="S4.E20.m1.1.2.3.1.cmml" xref="S4.E20.m1.1.2.3">limit-from</csymbol><apply id="S4.E20.m1.1.2.3.2.cmml" xref="S4.E20.m1.1.2.3.2"><times id="S4.E20.m1.1.2.3.2.1.cmml" xref="S4.E20.m1.1.2.3.2.1"></times><ci id="S4.E20.m1.1.2.3.2.2.cmml" xref="S4.E20.m1.1.2.3.2.2">𝜇</ci><ci id="S4.E20.m1.1.1.cmml" xref="S4.E20.m1.1.1">𝑥</ci></apply><plus id="S4.E20.m1.1.2.3.3.cmml" xref="S4.E20.m1.1.2.3.3"></plus></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.E20.m1.1c">\displaystyle y=\mu(x)+</annotation><annotation encoding="application/x-llamapun" id="S4.E20.m1.1d">italic_y = italic_μ ( italic_x ) +</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\epsilon(x)\;," class="ltx_Math" display="inline" id="S4.E20.m2.2"><semantics id="S4.E20.m2.2a"><mrow id="S4.E20.m2.2.2.1" xref="S4.E20.m2.2.2.1.1.cmml"><mrow id="S4.E20.m2.2.2.1.1" xref="S4.E20.m2.2.2.1.1.cmml"><mi id="S4.E20.m2.2.2.1.1.2" xref="S4.E20.m2.2.2.1.1.2.cmml">ϵ</mi><mo id="S4.E20.m2.2.2.1.1.1" xref="S4.E20.m2.2.2.1.1.1.cmml">⁢</mo><mrow id="S4.E20.m2.2.2.1.1.3.2" xref="S4.E20.m2.2.2.1.1.cmml"><mo id="S4.E20.m2.2.2.1.1.3.2.1" stretchy="false" xref="S4.E20.m2.2.2.1.1.cmml">(</mo><mi id="S4.E20.m2.1.1" xref="S4.E20.m2.1.1.cmml">x</mi><mo id="S4.E20.m2.2.2.1.1.3.2.2" rspace="0.280em" stretchy="false" xref="S4.E20.m2.2.2.1.1.cmml">)</mo></mrow></mrow><mo id="S4.E20.m2.2.2.1.2" xref="S4.E20.m2.2.2.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.E20.m2.2b"><apply id="S4.E20.m2.2.2.1.1.cmml" xref="S4.E20.m2.2.2.1"><times id="S4.E20.m2.2.2.1.1.1.cmml" xref="S4.E20.m2.2.2.1.1.1"></times><ci id="S4.E20.m2.2.2.1.1.2.cmml" xref="S4.E20.m2.2.2.1.1.2">italic-ϵ</ci><ci id="S4.E20.m2.1.1.cmml" xref="S4.E20.m2.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.E20.m2.2c">\displaystyle\epsilon(x)\;,</annotation><annotation encoding="application/x-llamapun" id="S4.E20.m2.2d">italic_ϵ ( italic_x ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(20)</span></td> </tr></tbody> <tbody id="S4.Ex4"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mbox{with}\quad\mu(x)" class="ltx_Math" display="inline" id="S4.Ex4.m1.3"><semantics id="S4.Ex4.m1.3a"><mrow id="S4.Ex4.m1.3.3.1" xref="S4.Ex4.m1.3.3.2.cmml"><mtext id="S4.Ex4.m1.2.2" xref="S4.Ex4.m1.2.2a.cmml">with</mtext><mspace id="S4.Ex4.m1.3.3.1.2" width="1em" xref="S4.Ex4.m1.3.3.2.cmml"></mspace><mrow id="S4.Ex4.m1.3.3.1.1" xref="S4.Ex4.m1.3.3.1.1.cmml"><mi id="S4.Ex4.m1.3.3.1.1.2" xref="S4.Ex4.m1.3.3.1.1.2.cmml">μ</mi><mo id="S4.Ex4.m1.3.3.1.1.1" xref="S4.Ex4.m1.3.3.1.1.1.cmml">⁢</mo><mrow id="S4.Ex4.m1.3.3.1.1.3.2" xref="S4.Ex4.m1.3.3.1.1.cmml"><mo id="S4.Ex4.m1.3.3.1.1.3.2.1" stretchy="false" xref="S4.Ex4.m1.3.3.1.1.cmml">(</mo><mi id="S4.Ex4.m1.1.1" xref="S4.Ex4.m1.1.1.cmml">x</mi><mo id="S4.Ex4.m1.3.3.1.1.3.2.2" stretchy="false" xref="S4.Ex4.m1.3.3.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.Ex4.m1.3b"><list id="S4.Ex4.m1.3.3.2.cmml" xref="S4.Ex4.m1.3.3.1"><ci id="S4.Ex4.m1.2.2a.cmml" xref="S4.Ex4.m1.2.2"><mtext id="S4.Ex4.m1.2.2.cmml" xref="S4.Ex4.m1.2.2">with</mtext></ci><apply id="S4.Ex4.m1.3.3.1.1.cmml" xref="S4.Ex4.m1.3.3.1.1"><times id="S4.Ex4.m1.3.3.1.1.1.cmml" xref="S4.Ex4.m1.3.3.1.1.1"></times><ci id="S4.Ex4.m1.3.3.1.1.2.cmml" xref="S4.Ex4.m1.3.3.1.1.2">𝜇</ci><ci id="S4.Ex4.m1.1.1.cmml" xref="S4.Ex4.m1.1.1">𝑥</ci></apply></list></annotation-xml><annotation encoding="application/x-tex" id="S4.Ex4.m1.3c">\displaystyle\mbox{with}\quad\mu(x)</annotation><annotation encoding="application/x-llamapun" id="S4.Ex4.m1.3d">with italic_μ ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=x\sin(x)\;," class="ltx_Math" display="inline" id="S4.Ex4.m2.3"><semantics id="S4.Ex4.m2.3a"><mrow id="S4.Ex4.m2.3.3.1" xref="S4.Ex4.m2.3.3.1.1.cmml"><mrow id="S4.Ex4.m2.3.3.1.1" xref="S4.Ex4.m2.3.3.1.1.cmml"><mi id="S4.Ex4.m2.3.3.1.1.2" xref="S4.Ex4.m2.3.3.1.1.2.cmml"></mi><mo id="S4.Ex4.m2.3.3.1.1.1" xref="S4.Ex4.m2.3.3.1.1.1.cmml">=</mo><mrow id="S4.Ex4.m2.3.3.1.1.3" xref="S4.Ex4.m2.3.3.1.1.3.cmml"><mi id="S4.Ex4.m2.3.3.1.1.3.2" xref="S4.Ex4.m2.3.3.1.1.3.2.cmml">x</mi><mo id="S4.Ex4.m2.3.3.1.1.3.1" lspace="0.167em" xref="S4.Ex4.m2.3.3.1.1.3.1.cmml">⁢</mo><mrow id="S4.Ex4.m2.3.3.1.1.3.3.2" xref="S4.Ex4.m2.3.3.1.1.3.3.1.cmml"><mi id="S4.Ex4.m2.1.1" xref="S4.Ex4.m2.1.1.cmml">sin</mi><mo id="S4.Ex4.m2.3.3.1.1.3.3.2a" xref="S4.Ex4.m2.3.3.1.1.3.3.1.cmml">⁡</mo><mrow id="S4.Ex4.m2.3.3.1.1.3.3.2.1" xref="S4.Ex4.m2.3.3.1.1.3.3.1.cmml"><mo id="S4.Ex4.m2.3.3.1.1.3.3.2.1.1" stretchy="false" xref="S4.Ex4.m2.3.3.1.1.3.3.1.cmml">(</mo><mi id="S4.Ex4.m2.2.2" xref="S4.Ex4.m2.2.2.cmml">x</mi><mo id="S4.Ex4.m2.3.3.1.1.3.3.2.1.2" rspace="0.280em" stretchy="false" xref="S4.Ex4.m2.3.3.1.1.3.3.1.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S4.Ex4.m2.3.3.1.2" xref="S4.Ex4.m2.3.3.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.Ex4.m2.3b"><apply id="S4.Ex4.m2.3.3.1.1.cmml" xref="S4.Ex4.m2.3.3.1"><eq id="S4.Ex4.m2.3.3.1.1.1.cmml" xref="S4.Ex4.m2.3.3.1.1.1"></eq><csymbol cd="latexml" id="S4.Ex4.m2.3.3.1.1.2.cmml" xref="S4.Ex4.m2.3.3.1.1.2">absent</csymbol><apply id="S4.Ex4.m2.3.3.1.1.3.cmml" xref="S4.Ex4.m2.3.3.1.1.3"><times id="S4.Ex4.m2.3.3.1.1.3.1.cmml" xref="S4.Ex4.m2.3.3.1.1.3.1"></times><ci id="S4.Ex4.m2.3.3.1.1.3.2.cmml" xref="S4.Ex4.m2.3.3.1.1.3.2">𝑥</ci><apply id="S4.Ex4.m2.3.3.1.1.3.3.1.cmml" xref="S4.Ex4.m2.3.3.1.1.3.3.2"><sin id="S4.Ex4.m2.1.1.cmml" xref="S4.Ex4.m2.1.1"></sin><ci id="S4.Ex4.m2.2.2.cmml" xref="S4.Ex4.m2.2.2">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.Ex4.m2.3c">\displaystyle=x\sin(x)\;,</annotation><annotation encoding="application/x-llamapun" id="S4.Ex4.m2.3d">= italic_x roman_sin ( italic_x ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> <tbody id="S4.Ex5"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\epsilon(x)" class="ltx_Math" display="inline" id="S4.Ex5.m1.1"><semantics id="S4.Ex5.m1.1a"><mrow id="S4.Ex5.m1.1.2" xref="S4.Ex5.m1.1.2.cmml"><mi id="S4.Ex5.m1.1.2.2" xref="S4.Ex5.m1.1.2.2.cmml">ϵ</mi><mo id="S4.Ex5.m1.1.2.1" xref="S4.Ex5.m1.1.2.1.cmml">⁢</mo><mrow id="S4.Ex5.m1.1.2.3.2" xref="S4.Ex5.m1.1.2.cmml"><mo id="S4.Ex5.m1.1.2.3.2.1" stretchy="false" xref="S4.Ex5.m1.1.2.cmml">(</mo><mi id="S4.Ex5.m1.1.1" xref="S4.Ex5.m1.1.1.cmml">x</mi><mo id="S4.Ex5.m1.1.2.3.2.2" stretchy="false" xref="S4.Ex5.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.Ex5.m1.1b"><apply id="S4.Ex5.m1.1.2.cmml" xref="S4.Ex5.m1.1.2"><times id="S4.Ex5.m1.1.2.1.cmml" xref="S4.Ex5.m1.1.2.1"></times><ci id="S4.Ex5.m1.1.2.2.cmml" xref="S4.Ex5.m1.1.2.2">italic-ϵ</ci><ci id="S4.Ex5.m1.1.1.cmml" xref="S4.Ex5.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.Ex5.m1.1c">\displaystyle\epsilon(x)</annotation><annotation encoding="application/x-llamapun" id="S4.Ex5.m1.1d">italic_ϵ ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\sim\mathcal{N}(0,\sigma^{2}(x))\;," class="ltx_Math" display="inline" id="S4.Ex5.m2.3"><semantics id="S4.Ex5.m2.3a"><mrow id="S4.Ex5.m2.3.3.1" xref="S4.Ex5.m2.3.3.1.1.cmml"><mrow id="S4.Ex5.m2.3.3.1.1" xref="S4.Ex5.m2.3.3.1.1.cmml"><mi id="S4.Ex5.m2.3.3.1.1.3" xref="S4.Ex5.m2.3.3.1.1.3.cmml"></mi><mo id="S4.Ex5.m2.3.3.1.1.2" xref="S4.Ex5.m2.3.3.1.1.2.cmml">∼</mo><mrow id="S4.Ex5.m2.3.3.1.1.1" xref="S4.Ex5.m2.3.3.1.1.1.cmml"><mi class="ltx_font_mathcaligraphic" id="S4.Ex5.m2.3.3.1.1.1.3" xref="S4.Ex5.m2.3.3.1.1.1.3.cmml">𝒩</mi><mo id="S4.Ex5.m2.3.3.1.1.1.2" xref="S4.Ex5.m2.3.3.1.1.1.2.cmml">⁢</mo><mrow id="S4.Ex5.m2.3.3.1.1.1.1.1" xref="S4.Ex5.m2.3.3.1.1.1.1.2.cmml"><mo id="S4.Ex5.m2.3.3.1.1.1.1.1.2" stretchy="false" xref="S4.Ex5.m2.3.3.1.1.1.1.2.cmml">(</mo><mn id="S4.Ex5.m2.2.2" xref="S4.Ex5.m2.2.2.cmml">0</mn><mo id="S4.Ex5.m2.3.3.1.1.1.1.1.3" xref="S4.Ex5.m2.3.3.1.1.1.1.2.cmml">,</mo><mrow id="S4.Ex5.m2.3.3.1.1.1.1.1.1" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.cmml"><msup id="S4.Ex5.m2.3.3.1.1.1.1.1.1.2" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.cmml"><mi id="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.2" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.2.cmml">σ</mi><mn id="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.3" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo id="S4.Ex5.m2.3.3.1.1.1.1.1.1.1" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.1.cmml">⁢</mo><mrow id="S4.Ex5.m2.3.3.1.1.1.1.1.1.3.2" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.cmml"><mo id="S4.Ex5.m2.3.3.1.1.1.1.1.1.3.2.1" stretchy="false" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.cmml">(</mo><mi id="S4.Ex5.m2.1.1" xref="S4.Ex5.m2.1.1.cmml">x</mi><mo id="S4.Ex5.m2.3.3.1.1.1.1.1.1.3.2.2" stretchy="false" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="S4.Ex5.m2.3.3.1.1.1.1.1.4" rspace="0.280em" stretchy="false" xref="S4.Ex5.m2.3.3.1.1.1.1.2.cmml">)</mo></mrow></mrow></mrow><mo id="S4.Ex5.m2.3.3.1.2" xref="S4.Ex5.m2.3.3.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.Ex5.m2.3b"><apply id="S4.Ex5.m2.3.3.1.1.cmml" xref="S4.Ex5.m2.3.3.1"><csymbol cd="latexml" id="S4.Ex5.m2.3.3.1.1.2.cmml" xref="S4.Ex5.m2.3.3.1.1.2">similar-to</csymbol><csymbol cd="latexml" id="S4.Ex5.m2.3.3.1.1.3.cmml" xref="S4.Ex5.m2.3.3.1.1.3">absent</csymbol><apply id="S4.Ex5.m2.3.3.1.1.1.cmml" xref="S4.Ex5.m2.3.3.1.1.1"><times id="S4.Ex5.m2.3.3.1.1.1.2.cmml" xref="S4.Ex5.m2.3.3.1.1.1.2"></times><ci id="S4.Ex5.m2.3.3.1.1.1.3.cmml" xref="S4.Ex5.m2.3.3.1.1.1.3">𝒩</ci><interval closure="open" id="S4.Ex5.m2.3.3.1.1.1.1.2.cmml" xref="S4.Ex5.m2.3.3.1.1.1.1.1"><cn id="S4.Ex5.m2.2.2.cmml" type="integer" xref="S4.Ex5.m2.2.2">0</cn><apply id="S4.Ex5.m2.3.3.1.1.1.1.1.1.cmml" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1"><times id="S4.Ex5.m2.3.3.1.1.1.1.1.1.1.cmml" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.1"></times><apply id="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.cmml" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.1.cmml" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.2">superscript</csymbol><ci id="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.2.cmml" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.2">𝜎</ci><cn id="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S4.Ex5.m2.3.3.1.1.1.1.1.1.2.3">2</cn></apply><ci id="S4.Ex5.m2.1.1.cmml" xref="S4.Ex5.m2.1.1">𝑥</ci></apply></interval></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.Ex5.m2.3c">\displaystyle\sim\mathcal{N}(0,\sigma^{2}(x))\;,</annotation><annotation encoding="application/x-llamapun" id="S4.Ex5.m2.3d">∼ caligraphic_N ( 0 , italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> <tbody id="S4.Ex6"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\sigma(x)" class="ltx_Math" display="inline" id="S4.Ex6.m1.1"><semantics id="S4.Ex6.m1.1a"><mrow id="S4.Ex6.m1.1.2" xref="S4.Ex6.m1.1.2.cmml"><mi id="S4.Ex6.m1.1.2.2" xref="S4.Ex6.m1.1.2.2.cmml">σ</mi><mo id="S4.Ex6.m1.1.2.1" xref="S4.Ex6.m1.1.2.1.cmml">⁢</mo><mrow id="S4.Ex6.m1.1.2.3.2" xref="S4.Ex6.m1.1.2.cmml"><mo id="S4.Ex6.m1.1.2.3.2.1" stretchy="false" xref="S4.Ex6.m1.1.2.cmml">(</mo><mi id="S4.Ex6.m1.1.1" xref="S4.Ex6.m1.1.1.cmml">x</mi><mo id="S4.Ex6.m1.1.2.3.2.2" stretchy="false" xref="S4.Ex6.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.Ex6.m1.1b"><apply id="S4.Ex6.m1.1.2.cmml" xref="S4.Ex6.m1.1.2"><times id="S4.Ex6.m1.1.2.1.cmml" xref="S4.Ex6.m1.1.2.1"></times><ci id="S4.Ex6.m1.1.2.2.cmml" xref="S4.Ex6.m1.1.2.2">𝜎</ci><ci id="S4.Ex6.m1.1.1.cmml" xref="S4.Ex6.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.Ex6.m1.1c">\displaystyle\sigma(x)</annotation><annotation encoding="application/x-llamapun" id="S4.Ex6.m1.1d">italic_σ ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=1.5\exp{(-x^{2}/2)}\;," class="ltx_Math" display="inline" id="S4.Ex6.m2.2"><semantics id="S4.Ex6.m2.2a"><mrow id="S4.Ex6.m2.2.2.1" xref="S4.Ex6.m2.2.2.1.1.cmml"><mrow id="S4.Ex6.m2.2.2.1.1" xref="S4.Ex6.m2.2.2.1.1.cmml"><mi id="S4.Ex6.m2.2.2.1.1.3" xref="S4.Ex6.m2.2.2.1.1.3.cmml"></mi><mo id="S4.Ex6.m2.2.2.1.1.2" xref="S4.Ex6.m2.2.2.1.1.2.cmml">=</mo><mrow id="S4.Ex6.m2.2.2.1.1.1" xref="S4.Ex6.m2.2.2.1.1.1.cmml"><mn id="S4.Ex6.m2.2.2.1.1.1.3" xref="S4.Ex6.m2.2.2.1.1.1.3.cmml">1.5</mn><mo id="S4.Ex6.m2.2.2.1.1.1.2" lspace="0.167em" xref="S4.Ex6.m2.2.2.1.1.1.2.cmml">⁢</mo><mrow id="S4.Ex6.m2.2.2.1.1.1.1.1" xref="S4.Ex6.m2.2.2.1.1.1.1.2.cmml"><mi id="S4.Ex6.m2.1.1" xref="S4.Ex6.m2.1.1.cmml">exp</mi><mo id="S4.Ex6.m2.2.2.1.1.1.1.1a" xref="S4.Ex6.m2.2.2.1.1.1.1.2.cmml">⁡</mo><mrow id="S4.Ex6.m2.2.2.1.1.1.1.1.1" xref="S4.Ex6.m2.2.2.1.1.1.1.2.cmml"><mo id="S4.Ex6.m2.2.2.1.1.1.1.1.1.2" stretchy="false" xref="S4.Ex6.m2.2.2.1.1.1.1.2.cmml">(</mo><mrow id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.cmml"><mo id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1a" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.cmml">−</mo><mrow id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.cmml"><msup id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.cmml"><mi id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.2" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.2.cmml">x</mi><mn id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.3" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.3.cmml">2</mn></msup><mo id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.1" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.1.cmml">/</mo><mn id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.3" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.3.cmml">2</mn></mrow></mrow><mo id="S4.Ex6.m2.2.2.1.1.1.1.1.1.3" rspace="0.280em" stretchy="false" xref="S4.Ex6.m2.2.2.1.1.1.1.2.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="S4.Ex6.m2.2.2.1.2" xref="S4.Ex6.m2.2.2.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.Ex6.m2.2b"><apply id="S4.Ex6.m2.2.2.1.1.cmml" xref="S4.Ex6.m2.2.2.1"><eq id="S4.Ex6.m2.2.2.1.1.2.cmml" xref="S4.Ex6.m2.2.2.1.1.2"></eq><csymbol cd="latexml" id="S4.Ex6.m2.2.2.1.1.3.cmml" xref="S4.Ex6.m2.2.2.1.1.3">absent</csymbol><apply id="S4.Ex6.m2.2.2.1.1.1.cmml" xref="S4.Ex6.m2.2.2.1.1.1"><times id="S4.Ex6.m2.2.2.1.1.1.2.cmml" xref="S4.Ex6.m2.2.2.1.1.1.2"></times><cn id="S4.Ex6.m2.2.2.1.1.1.3.cmml" type="float" xref="S4.Ex6.m2.2.2.1.1.1.3">1.5</cn><apply id="S4.Ex6.m2.2.2.1.1.1.1.2.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1"><exp id="S4.Ex6.m2.1.1.cmml" xref="S4.Ex6.m2.1.1"></exp><apply id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1"><minus id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.1.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1"></minus><apply id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2"><divide id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.1"></divide><apply id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.1.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2">superscript</csymbol><ci id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.2.cmml" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.2">𝑥</ci><cn id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.3.cmml" type="integer" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.2.3">2</cn></apply><cn id="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="S4.Ex6.m2.2.2.1.1.1.1.1.1.1.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.Ex6.m2.2c">\displaystyle=1.5\exp{(-x^{2}/2)}\;,</annotation><annotation encoding="application/x-llamapun" id="S4.Ex6.m2.2d">= 1.5 roman_exp ( - italic_x start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT / 2 ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> </table> <p class="ltx_p" id="S4.SS1.p2.3">The training set comprises 1000 samples of the form <math alttext="(x,y_{1},y_{2})" class="ltx_Math" display="inline" id="S4.SS1.p2.3.m1.3"><semantics id="S4.SS1.p2.3.m1.3a"><mrow id="S4.SS1.p2.3.m1.3.3.2" xref="S4.SS1.p2.3.m1.3.3.3.cmml"><mo id="S4.SS1.p2.3.m1.3.3.2.3" stretchy="false" xref="S4.SS1.p2.3.m1.3.3.3.cmml">(</mo><mi id="S4.SS1.p2.3.m1.1.1" xref="S4.SS1.p2.3.m1.1.1.cmml">x</mi><mo id="S4.SS1.p2.3.m1.3.3.2.4" xref="S4.SS1.p2.3.m1.3.3.3.cmml">,</mo><msub id="S4.SS1.p2.3.m1.2.2.1.1" xref="S4.SS1.p2.3.m1.2.2.1.1.cmml"><mi id="S4.SS1.p2.3.m1.2.2.1.1.2" xref="S4.SS1.p2.3.m1.2.2.1.1.2.cmml">y</mi><mn id="S4.SS1.p2.3.m1.2.2.1.1.3" xref="S4.SS1.p2.3.m1.2.2.1.1.3.cmml">1</mn></msub><mo id="S4.SS1.p2.3.m1.3.3.2.5" xref="S4.SS1.p2.3.m1.3.3.3.cmml">,</mo><msub id="S4.SS1.p2.3.m1.3.3.2.2" xref="S4.SS1.p2.3.m1.3.3.2.2.cmml"><mi id="S4.SS1.p2.3.m1.3.3.2.2.2" xref="S4.SS1.p2.3.m1.3.3.2.2.2.cmml">y</mi><mn id="S4.SS1.p2.3.m1.3.3.2.2.3" xref="S4.SS1.p2.3.m1.3.3.2.2.3.cmml">2</mn></msub><mo id="S4.SS1.p2.3.m1.3.3.2.6" stretchy="false" xref="S4.SS1.p2.3.m1.3.3.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p2.3.m1.3b"><vector id="S4.SS1.p2.3.m1.3.3.3.cmml" xref="S4.SS1.p2.3.m1.3.3.2"><ci id="S4.SS1.p2.3.m1.1.1.cmml" xref="S4.SS1.p2.3.m1.1.1">𝑥</ci><apply id="S4.SS1.p2.3.m1.2.2.1.1.cmml" xref="S4.SS1.p2.3.m1.2.2.1.1"><csymbol cd="ambiguous" id="S4.SS1.p2.3.m1.2.2.1.1.1.cmml" xref="S4.SS1.p2.3.m1.2.2.1.1">subscript</csymbol><ci id="S4.SS1.p2.3.m1.2.2.1.1.2.cmml" xref="S4.SS1.p2.3.m1.2.2.1.1.2">𝑦</ci><cn id="S4.SS1.p2.3.m1.2.2.1.1.3.cmml" type="integer" xref="S4.SS1.p2.3.m1.2.2.1.1.3">1</cn></apply><apply id="S4.SS1.p2.3.m1.3.3.2.2.cmml" xref="S4.SS1.p2.3.m1.3.3.2.2"><csymbol cd="ambiguous" id="S4.SS1.p2.3.m1.3.3.2.2.1.cmml" xref="S4.SS1.p2.3.m1.3.3.2.2">subscript</csymbol><ci id="S4.SS1.p2.3.m1.3.3.2.2.2.cmml" xref="S4.SS1.p2.3.m1.3.3.2.2.2">𝑦</ci><cn id="S4.SS1.p2.3.m1.3.3.2.2.3.cmml" type="integer" xref="S4.SS1.p2.3.m1.3.3.2.2.3">2</cn></apply></vector></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p2.3.m1.3c">(x,y_{1},y_{2})</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p2.3.m1.3d">( italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT )</annotation></semantics></math>.</p> </div> <div class="ltx_para" id="S4.SS1.p3"> <p class="ltx_p" id="S4.SS1.p3.5">This dataset is used to train a simple MLP with ReLU activation. It has two hidden layers of 64 neurons each, with dropout layers with probability <math alttext="p=0.05" class="ltx_Math" display="inline" id="S4.SS1.p3.1.m1.1"><semantics id="S4.SS1.p3.1.m1.1a"><mrow id="S4.SS1.p3.1.m1.1.1" xref="S4.SS1.p3.1.m1.1.1.cmml"><mi id="S4.SS1.p3.1.m1.1.1.2" xref="S4.SS1.p3.1.m1.1.1.2.cmml">p</mi><mo id="S4.SS1.p3.1.m1.1.1.1" xref="S4.SS1.p3.1.m1.1.1.1.cmml">=</mo><mn id="S4.SS1.p3.1.m1.1.1.3" xref="S4.SS1.p3.1.m1.1.1.3.cmml">0.05</mn></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.1.m1.1b"><apply id="S4.SS1.p3.1.m1.1.1.cmml" xref="S4.SS1.p3.1.m1.1.1"><eq id="S4.SS1.p3.1.m1.1.1.1.cmml" xref="S4.SS1.p3.1.m1.1.1.1"></eq><ci id="S4.SS1.p3.1.m1.1.1.2.cmml" xref="S4.SS1.p3.1.m1.1.1.2">𝑝</ci><cn id="S4.SS1.p3.1.m1.1.1.3.cmml" type="float" xref="S4.SS1.p3.1.m1.1.1.3">0.05</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.1.m1.1c">p=0.05</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.1.m1.1d">italic_p = 0.05</annotation></semantics></math>. Its output is a mean <math alttext="\mu_{\theta}" class="ltx_Math" display="inline" id="S4.SS1.p3.2.m2.1"><semantics id="S4.SS1.p3.2.m2.1a"><msub id="S4.SS1.p3.2.m2.1.1" xref="S4.SS1.p3.2.m2.1.1.cmml"><mi id="S4.SS1.p3.2.m2.1.1.2" xref="S4.SS1.p3.2.m2.1.1.2.cmml">μ</mi><mi id="S4.SS1.p3.2.m2.1.1.3" xref="S4.SS1.p3.2.m2.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.2.m2.1b"><apply id="S4.SS1.p3.2.m2.1.1.cmml" xref="S4.SS1.p3.2.m2.1.1"><csymbol cd="ambiguous" id="S4.SS1.p3.2.m2.1.1.1.cmml" xref="S4.SS1.p3.2.m2.1.1">subscript</csymbol><ci id="S4.SS1.p3.2.m2.1.1.2.cmml" xref="S4.SS1.p3.2.m2.1.1.2">𝜇</ci><ci id="S4.SS1.p3.2.m2.1.1.3.cmml" xref="S4.SS1.p3.2.m2.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.2.m2.1c">\mu_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.2.m2.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> and a variance <math alttext="\sigma^{2}_{\theta}" class="ltx_Math" display="inline" id="S4.SS1.p3.3.m3.1"><semantics id="S4.SS1.p3.3.m3.1a"><msubsup id="S4.SS1.p3.3.m3.1.1" xref="S4.SS1.p3.3.m3.1.1.cmml"><mi id="S4.SS1.p3.3.m3.1.1.2.2" xref="S4.SS1.p3.3.m3.1.1.2.2.cmml">σ</mi><mi id="S4.SS1.p3.3.m3.1.1.3" xref="S4.SS1.p3.3.m3.1.1.3.cmml">θ</mi><mn id="S4.SS1.p3.3.m3.1.1.2.3" xref="S4.SS1.p3.3.m3.1.1.2.3.cmml">2</mn></msubsup><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.3.m3.1b"><apply id="S4.SS1.p3.3.m3.1.1.cmml" xref="S4.SS1.p3.3.m3.1.1"><csymbol cd="ambiguous" id="S4.SS1.p3.3.m3.1.1.1.cmml" xref="S4.SS1.p3.3.m3.1.1">subscript</csymbol><apply id="S4.SS1.p3.3.m3.1.1.2.cmml" xref="S4.SS1.p3.3.m3.1.1"><csymbol cd="ambiguous" id="S4.SS1.p3.3.m3.1.1.2.1.cmml" xref="S4.SS1.p3.3.m3.1.1">superscript</csymbol><ci id="S4.SS1.p3.3.m3.1.1.2.2.cmml" xref="S4.SS1.p3.3.m3.1.1.2.2">𝜎</ci><cn id="S4.SS1.p3.3.m3.1.1.2.3.cmml" type="integer" xref="S4.SS1.p3.3.m3.1.1.2.3">2</cn></apply><ci id="S4.SS1.p3.3.m3.1.1.3.cmml" xref="S4.SS1.p3.3.m3.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.3.m3.1c">\sigma^{2}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.3.m3.1d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math>, which is constrained to be positive by passing it through a softplus function. The model is trained for 500 epochs by minimizing the <math alttext="\beta" class="ltx_Math" display="inline" id="S4.SS1.p3.4.m4.1"><semantics id="S4.SS1.p3.4.m4.1a"><mi id="S4.SS1.p3.4.m4.1.1" xref="S4.SS1.p3.4.m4.1.1.cmml">β</mi><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.4.m4.1b"><ci id="S4.SS1.p3.4.m4.1.1.cmml" xref="S4.SS1.p3.4.m4.1.1">𝛽</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.4.m4.1c">\beta</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.4.m4.1d">italic_β</annotation></semantics></math>-NLL loss <cite class="ltx_cite ltx_citemacro_citep">(Seitzer et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib15" title="">2022</a>)</cite> <math alttext="\ell_{\beta-\text{NLL}}(y,\mu_{\theta}(x),\sigma^{2}_{\theta}(x))" class="ltx_Math" display="inline" id="S4.SS1.p3.5.m5.5"><semantics id="S4.SS1.p3.5.m5.5a"><mrow id="S4.SS1.p3.5.m5.5.5" xref="S4.SS1.p3.5.m5.5.5.cmml"><msub id="S4.SS1.p3.5.m5.5.5.4" xref="S4.SS1.p3.5.m5.5.5.4.cmml"><mi id="S4.SS1.p3.5.m5.5.5.4.2" mathvariant="normal" xref="S4.SS1.p3.5.m5.5.5.4.2.cmml">ℓ</mi><mrow id="S4.SS1.p3.5.m5.5.5.4.3" xref="S4.SS1.p3.5.m5.5.5.4.3.cmml"><mi id="S4.SS1.p3.5.m5.5.5.4.3.2" xref="S4.SS1.p3.5.m5.5.5.4.3.2.cmml">β</mi><mo id="S4.SS1.p3.5.m5.5.5.4.3.1" xref="S4.SS1.p3.5.m5.5.5.4.3.1.cmml">−</mo><mtext id="S4.SS1.p3.5.m5.5.5.4.3.3" xref="S4.SS1.p3.5.m5.5.5.4.3.3a.cmml">NLL</mtext></mrow></msub><mo id="S4.SS1.p3.5.m5.5.5.3" xref="S4.SS1.p3.5.m5.5.5.3.cmml">⁢</mo><mrow id="S4.SS1.p3.5.m5.5.5.2.2" xref="S4.SS1.p3.5.m5.5.5.2.3.cmml"><mo id="S4.SS1.p3.5.m5.5.5.2.2.3" stretchy="false" xref="S4.SS1.p3.5.m5.5.5.2.3.cmml">(</mo><mi id="S4.SS1.p3.5.m5.3.3" xref="S4.SS1.p3.5.m5.3.3.cmml">y</mi><mo id="S4.SS1.p3.5.m5.5.5.2.2.4" xref="S4.SS1.p3.5.m5.5.5.2.3.cmml">,</mo><mrow id="S4.SS1.p3.5.m5.4.4.1.1.1" xref="S4.SS1.p3.5.m5.4.4.1.1.1.cmml"><msub id="S4.SS1.p3.5.m5.4.4.1.1.1.2" xref="S4.SS1.p3.5.m5.4.4.1.1.1.2.cmml"><mi id="S4.SS1.p3.5.m5.4.4.1.1.1.2.2" xref="S4.SS1.p3.5.m5.4.4.1.1.1.2.2.cmml">μ</mi><mi id="S4.SS1.p3.5.m5.4.4.1.1.1.2.3" xref="S4.SS1.p3.5.m5.4.4.1.1.1.2.3.cmml">θ</mi></msub><mo id="S4.SS1.p3.5.m5.4.4.1.1.1.1" xref="S4.SS1.p3.5.m5.4.4.1.1.1.1.cmml">⁢</mo><mrow id="S4.SS1.p3.5.m5.4.4.1.1.1.3.2" xref="S4.SS1.p3.5.m5.4.4.1.1.1.cmml"><mo id="S4.SS1.p3.5.m5.4.4.1.1.1.3.2.1" stretchy="false" xref="S4.SS1.p3.5.m5.4.4.1.1.1.cmml">(</mo><mi id="S4.SS1.p3.5.m5.1.1" xref="S4.SS1.p3.5.m5.1.1.cmml">x</mi><mo id="S4.SS1.p3.5.m5.4.4.1.1.1.3.2.2" stretchy="false" xref="S4.SS1.p3.5.m5.4.4.1.1.1.cmml">)</mo></mrow></mrow><mo id="S4.SS1.p3.5.m5.5.5.2.2.5" xref="S4.SS1.p3.5.m5.5.5.2.3.cmml">,</mo><mrow id="S4.SS1.p3.5.m5.5.5.2.2.2" xref="S4.SS1.p3.5.m5.5.5.2.2.2.cmml"><msubsup id="S4.SS1.p3.5.m5.5.5.2.2.2.2" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2.cmml"><mi id="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.2" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.2.cmml">σ</mi><mi id="S4.SS1.p3.5.m5.5.5.2.2.2.2.3" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2.3.cmml">θ</mi><mn id="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.3" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.3.cmml">2</mn></msubsup><mo id="S4.SS1.p3.5.m5.5.5.2.2.2.1" xref="S4.SS1.p3.5.m5.5.5.2.2.2.1.cmml">⁢</mo><mrow id="S4.SS1.p3.5.m5.5.5.2.2.2.3.2" xref="S4.SS1.p3.5.m5.5.5.2.2.2.cmml"><mo id="S4.SS1.p3.5.m5.5.5.2.2.2.3.2.1" stretchy="false" xref="S4.SS1.p3.5.m5.5.5.2.2.2.cmml">(</mo><mi id="S4.SS1.p3.5.m5.2.2" xref="S4.SS1.p3.5.m5.2.2.cmml">x</mi><mo id="S4.SS1.p3.5.m5.5.5.2.2.2.3.2.2" stretchy="false" xref="S4.SS1.p3.5.m5.5.5.2.2.2.cmml">)</mo></mrow></mrow><mo id="S4.SS1.p3.5.m5.5.5.2.2.6" stretchy="false" xref="S4.SS1.p3.5.m5.5.5.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.5.m5.5b"><apply id="S4.SS1.p3.5.m5.5.5.cmml" xref="S4.SS1.p3.5.m5.5.5"><times id="S4.SS1.p3.5.m5.5.5.3.cmml" xref="S4.SS1.p3.5.m5.5.5.3"></times><apply id="S4.SS1.p3.5.m5.5.5.4.cmml" xref="S4.SS1.p3.5.m5.5.5.4"><csymbol cd="ambiguous" id="S4.SS1.p3.5.m5.5.5.4.1.cmml" xref="S4.SS1.p3.5.m5.5.5.4">subscript</csymbol><ci id="S4.SS1.p3.5.m5.5.5.4.2.cmml" xref="S4.SS1.p3.5.m5.5.5.4.2">ℓ</ci><apply id="S4.SS1.p3.5.m5.5.5.4.3.cmml" xref="S4.SS1.p3.5.m5.5.5.4.3"><minus id="S4.SS1.p3.5.m5.5.5.4.3.1.cmml" xref="S4.SS1.p3.5.m5.5.5.4.3.1"></minus><ci id="S4.SS1.p3.5.m5.5.5.4.3.2.cmml" xref="S4.SS1.p3.5.m5.5.5.4.3.2">𝛽</ci><ci id="S4.SS1.p3.5.m5.5.5.4.3.3a.cmml" xref="S4.SS1.p3.5.m5.5.5.4.3.3"><mtext id="S4.SS1.p3.5.m5.5.5.4.3.3.cmml" mathsize="70%" xref="S4.SS1.p3.5.m5.5.5.4.3.3">NLL</mtext></ci></apply></apply><vector id="S4.SS1.p3.5.m5.5.5.2.3.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2"><ci id="S4.SS1.p3.5.m5.3.3.cmml" xref="S4.SS1.p3.5.m5.3.3">𝑦</ci><apply id="S4.SS1.p3.5.m5.4.4.1.1.1.cmml" xref="S4.SS1.p3.5.m5.4.4.1.1.1"><times id="S4.SS1.p3.5.m5.4.4.1.1.1.1.cmml" xref="S4.SS1.p3.5.m5.4.4.1.1.1.1"></times><apply id="S4.SS1.p3.5.m5.4.4.1.1.1.2.cmml" xref="S4.SS1.p3.5.m5.4.4.1.1.1.2"><csymbol cd="ambiguous" id="S4.SS1.p3.5.m5.4.4.1.1.1.2.1.cmml" xref="S4.SS1.p3.5.m5.4.4.1.1.1.2">subscript</csymbol><ci id="S4.SS1.p3.5.m5.4.4.1.1.1.2.2.cmml" xref="S4.SS1.p3.5.m5.4.4.1.1.1.2.2">𝜇</ci><ci id="S4.SS1.p3.5.m5.4.4.1.1.1.2.3.cmml" xref="S4.SS1.p3.5.m5.4.4.1.1.1.2.3">𝜃</ci></apply><ci id="S4.SS1.p3.5.m5.1.1.cmml" xref="S4.SS1.p3.5.m5.1.1">𝑥</ci></apply><apply id="S4.SS1.p3.5.m5.5.5.2.2.2.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2"><times id="S4.SS1.p3.5.m5.5.5.2.2.2.1.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2.1"></times><apply id="S4.SS1.p3.5.m5.5.5.2.2.2.2.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2"><csymbol cd="ambiguous" id="S4.SS1.p3.5.m5.5.5.2.2.2.2.1.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2">subscript</csymbol><apply id="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2"><csymbol cd="ambiguous" id="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.1.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2">superscript</csymbol><ci id="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.2.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.2">𝜎</ci><cn id="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.3.cmml" type="integer" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2.2.3">2</cn></apply><ci id="S4.SS1.p3.5.m5.5.5.2.2.2.2.3.cmml" xref="S4.SS1.p3.5.m5.5.5.2.2.2.2.3">𝜃</ci></apply><ci id="S4.SS1.p3.5.m5.2.2.cmml" xref="S4.SS1.p3.5.m5.2.2">𝑥</ci></apply></vector></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.5.m5.5c">\ell_{\beta-\text{NLL}}(y,\mu_{\theta}(x),\sigma^{2}_{\theta}(x))</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.5.m5.5d">roman_ℓ start_POSTSUBSCRIPT italic_β - NLL end_POSTSUBSCRIPT ( italic_y , italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) , italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) )</annotation></semantics></math>. It is taken to be:</p> <table class="ltx_equation ltx_eqn_table" id="S4.E21"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\text{sg}\left[\sigma_{\theta}^{2\beta}\right]\left(\frac{1}{2}\log\sigma_{% \theta}^{2}(x)+\frac{(y-\mu_{\theta}(x))^{2}}{2\sigma_{\theta}^{2}(x)}\right)\;," class="ltx_Math" display="block" id="S4.E21.m1.5"><semantics id="S4.E21.m1.5a"><mrow id="S4.E21.m1.5.5.1" xref="S4.E21.m1.5.5.1.1.cmml"><mrow id="S4.E21.m1.5.5.1.1" xref="S4.E21.m1.5.5.1.1.cmml"><mtext id="S4.E21.m1.5.5.1.1.4" xref="S4.E21.m1.5.5.1.1.4a.cmml">sg</mtext><mo id="S4.E21.m1.5.5.1.1.3" xref="S4.E21.m1.5.5.1.1.3.cmml">⁢</mo><mrow id="S4.E21.m1.5.5.1.1.1.1" xref="S4.E21.m1.5.5.1.1.1.2.cmml"><mo id="S4.E21.m1.5.5.1.1.1.1.2" xref="S4.E21.m1.5.5.1.1.1.2.1.cmml">[</mo><msubsup id="S4.E21.m1.5.5.1.1.1.1.1" xref="S4.E21.m1.5.5.1.1.1.1.1.cmml"><mi id="S4.E21.m1.5.5.1.1.1.1.1.2.2" xref="S4.E21.m1.5.5.1.1.1.1.1.2.2.cmml">σ</mi><mi id="S4.E21.m1.5.5.1.1.1.1.1.2.3" xref="S4.E21.m1.5.5.1.1.1.1.1.2.3.cmml">θ</mi><mrow id="S4.E21.m1.5.5.1.1.1.1.1.3" xref="S4.E21.m1.5.5.1.1.1.1.1.3.cmml"><mn id="S4.E21.m1.5.5.1.1.1.1.1.3.2" xref="S4.E21.m1.5.5.1.1.1.1.1.3.2.cmml">2</mn><mo id="S4.E21.m1.5.5.1.1.1.1.1.3.1" xref="S4.E21.m1.5.5.1.1.1.1.1.3.1.cmml">⁢</mo><mi id="S4.E21.m1.5.5.1.1.1.1.1.3.3" xref="S4.E21.m1.5.5.1.1.1.1.1.3.3.cmml">β</mi></mrow></msubsup><mo id="S4.E21.m1.5.5.1.1.1.1.3" xref="S4.E21.m1.5.5.1.1.1.2.1.cmml">]</mo></mrow><mo id="S4.E21.m1.5.5.1.1.3a" xref="S4.E21.m1.5.5.1.1.3.cmml">⁢</mo><mrow id="S4.E21.m1.5.5.1.1.2.1" xref="S4.E21.m1.5.5.1.1.2.1.1.cmml"><mo id="S4.E21.m1.5.5.1.1.2.1.2" xref="S4.E21.m1.5.5.1.1.2.1.1.cmml">(</mo><mrow id="S4.E21.m1.5.5.1.1.2.1.1" xref="S4.E21.m1.5.5.1.1.2.1.1.cmml"><mrow id="S4.E21.m1.5.5.1.1.2.1.1.2" xref="S4.E21.m1.5.5.1.1.2.1.1.2.cmml"><mfrac id="S4.E21.m1.5.5.1.1.2.1.1.2.2" xref="S4.E21.m1.5.5.1.1.2.1.1.2.2.cmml"><mn id="S4.E21.m1.5.5.1.1.2.1.1.2.2.2" xref="S4.E21.m1.5.5.1.1.2.1.1.2.2.2.cmml">1</mn><mn id="S4.E21.m1.5.5.1.1.2.1.1.2.2.3" xref="S4.E21.m1.5.5.1.1.2.1.1.2.2.3.cmml">2</mn></mfrac><mo id="S4.E21.m1.5.5.1.1.2.1.1.2.1" lspace="0.167em" xref="S4.E21.m1.5.5.1.1.2.1.1.2.1.cmml">⁢</mo><mrow id="S4.E21.m1.5.5.1.1.2.1.1.2.3" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.cmml"><mi id="S4.E21.m1.5.5.1.1.2.1.1.2.3.1" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.1.cmml">log</mi><mo id="S4.E21.m1.5.5.1.1.2.1.1.2.3a" lspace="0.167em" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.cmml">⁡</mo><msubsup id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.cmml"><mi id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.2" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.2.cmml">σ</mi><mi id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.3" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.3.cmml">θ</mi><mn id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.3" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.3.cmml">2</mn></msubsup></mrow><mo id="S4.E21.m1.5.5.1.1.2.1.1.2.1a" xref="S4.E21.m1.5.5.1.1.2.1.1.2.1.cmml">⁢</mo><mrow id="S4.E21.m1.5.5.1.1.2.1.1.2.4.2" xref="S4.E21.m1.5.5.1.1.2.1.1.2.cmml"><mo id="S4.E21.m1.5.5.1.1.2.1.1.2.4.2.1" stretchy="false" xref="S4.E21.m1.5.5.1.1.2.1.1.2.cmml">(</mo><mi id="S4.E21.m1.4.4" xref="S4.E21.m1.4.4.cmml">x</mi><mo id="S4.E21.m1.5.5.1.1.2.1.1.2.4.2.2" stretchy="false" xref="S4.E21.m1.5.5.1.1.2.1.1.2.cmml">)</mo></mrow></mrow><mo id="S4.E21.m1.5.5.1.1.2.1.1.1" xref="S4.E21.m1.5.5.1.1.2.1.1.1.cmml">+</mo><mfrac id="S4.E21.m1.3.3" xref="S4.E21.m1.3.3.cmml"><msup id="S4.E21.m1.2.2.2" xref="S4.E21.m1.2.2.2.cmml"><mrow id="S4.E21.m1.2.2.2.2.1" xref="S4.E21.m1.2.2.2.2.1.1.cmml"><mo id="S4.E21.m1.2.2.2.2.1.2" stretchy="false" xref="S4.E21.m1.2.2.2.2.1.1.cmml">(</mo><mrow id="S4.E21.m1.2.2.2.2.1.1" xref="S4.E21.m1.2.2.2.2.1.1.cmml"><mi id="S4.E21.m1.2.2.2.2.1.1.2" xref="S4.E21.m1.2.2.2.2.1.1.2.cmml">y</mi><mo id="S4.E21.m1.2.2.2.2.1.1.1" xref="S4.E21.m1.2.2.2.2.1.1.1.cmml">−</mo><mrow id="S4.E21.m1.2.2.2.2.1.1.3" xref="S4.E21.m1.2.2.2.2.1.1.3.cmml"><msub id="S4.E21.m1.2.2.2.2.1.1.3.2" xref="S4.E21.m1.2.2.2.2.1.1.3.2.cmml"><mi id="S4.E21.m1.2.2.2.2.1.1.3.2.2" xref="S4.E21.m1.2.2.2.2.1.1.3.2.2.cmml">μ</mi><mi id="S4.E21.m1.2.2.2.2.1.1.3.2.3" xref="S4.E21.m1.2.2.2.2.1.1.3.2.3.cmml">θ</mi></msub><mo id="S4.E21.m1.2.2.2.2.1.1.3.1" xref="S4.E21.m1.2.2.2.2.1.1.3.1.cmml">⁢</mo><mrow id="S4.E21.m1.2.2.2.2.1.1.3.3.2" xref="S4.E21.m1.2.2.2.2.1.1.3.cmml"><mo id="S4.E21.m1.2.2.2.2.1.1.3.3.2.1" stretchy="false" xref="S4.E21.m1.2.2.2.2.1.1.3.cmml">(</mo><mi id="S4.E21.m1.1.1.1.1" xref="S4.E21.m1.1.1.1.1.cmml">x</mi><mo id="S4.E21.m1.2.2.2.2.1.1.3.3.2.2" stretchy="false" xref="S4.E21.m1.2.2.2.2.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="S4.E21.m1.2.2.2.2.1.3" stretchy="false" xref="S4.E21.m1.2.2.2.2.1.1.cmml">)</mo></mrow><mn id="S4.E21.m1.2.2.2.4" xref="S4.E21.m1.2.2.2.4.cmml">2</mn></msup><mrow id="S4.E21.m1.3.3.3" xref="S4.E21.m1.3.3.3.cmml"><mn id="S4.E21.m1.3.3.3.3" xref="S4.E21.m1.3.3.3.3.cmml">2</mn><mo id="S4.E21.m1.3.3.3.2" xref="S4.E21.m1.3.3.3.2.cmml">⁢</mo><msubsup id="S4.E21.m1.3.3.3.4" xref="S4.E21.m1.3.3.3.4.cmml"><mi id="S4.E21.m1.3.3.3.4.2.2" xref="S4.E21.m1.3.3.3.4.2.2.cmml">σ</mi><mi id="S4.E21.m1.3.3.3.4.2.3" xref="S4.E21.m1.3.3.3.4.2.3.cmml">θ</mi><mn id="S4.E21.m1.3.3.3.4.3" xref="S4.E21.m1.3.3.3.4.3.cmml">2</mn></msubsup><mo id="S4.E21.m1.3.3.3.2a" xref="S4.E21.m1.3.3.3.2.cmml">⁢</mo><mrow id="S4.E21.m1.3.3.3.5.2" xref="S4.E21.m1.3.3.3.cmml"><mo id="S4.E21.m1.3.3.3.5.2.1" stretchy="false" xref="S4.E21.m1.3.3.3.cmml">(</mo><mi id="S4.E21.m1.3.3.3.1" xref="S4.E21.m1.3.3.3.1.cmml">x</mi><mo id="S4.E21.m1.3.3.3.5.2.2" stretchy="false" xref="S4.E21.m1.3.3.3.cmml">)</mo></mrow></mrow></mfrac></mrow><mo id="S4.E21.m1.5.5.1.1.2.1.3" rspace="0.280em" xref="S4.E21.m1.5.5.1.1.2.1.1.cmml">)</mo></mrow></mrow><mo id="S4.E21.m1.5.5.1.2" xref="S4.E21.m1.5.5.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.E21.m1.5b"><apply id="S4.E21.m1.5.5.1.1.cmml" xref="S4.E21.m1.5.5.1"><times id="S4.E21.m1.5.5.1.1.3.cmml" xref="S4.E21.m1.5.5.1.1.3"></times><ci id="S4.E21.m1.5.5.1.1.4a.cmml" xref="S4.E21.m1.5.5.1.1.4"><mtext id="S4.E21.m1.5.5.1.1.4.cmml" xref="S4.E21.m1.5.5.1.1.4">sg</mtext></ci><apply id="S4.E21.m1.5.5.1.1.1.2.cmml" xref="S4.E21.m1.5.5.1.1.1.1"><csymbol cd="latexml" id="S4.E21.m1.5.5.1.1.1.2.1.cmml" xref="S4.E21.m1.5.5.1.1.1.1.2">delimited-[]</csymbol><apply id="S4.E21.m1.5.5.1.1.1.1.1.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1"><csymbol cd="ambiguous" id="S4.E21.m1.5.5.1.1.1.1.1.1.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1">superscript</csymbol><apply id="S4.E21.m1.5.5.1.1.1.1.1.2.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1"><csymbol cd="ambiguous" id="S4.E21.m1.5.5.1.1.1.1.1.2.1.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1">subscript</csymbol><ci id="S4.E21.m1.5.5.1.1.1.1.1.2.2.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1.2.2">𝜎</ci><ci id="S4.E21.m1.5.5.1.1.1.1.1.2.3.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1.2.3">𝜃</ci></apply><apply id="S4.E21.m1.5.5.1.1.1.1.1.3.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1.3"><times id="S4.E21.m1.5.5.1.1.1.1.1.3.1.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1.3.1"></times><cn id="S4.E21.m1.5.5.1.1.1.1.1.3.2.cmml" type="integer" xref="S4.E21.m1.5.5.1.1.1.1.1.3.2">2</cn><ci id="S4.E21.m1.5.5.1.1.1.1.1.3.3.cmml" xref="S4.E21.m1.5.5.1.1.1.1.1.3.3">𝛽</ci></apply></apply></apply><apply id="S4.E21.m1.5.5.1.1.2.1.1.cmml" xref="S4.E21.m1.5.5.1.1.2.1"><plus id="S4.E21.m1.5.5.1.1.2.1.1.1.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.1"></plus><apply id="S4.E21.m1.5.5.1.1.2.1.1.2.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2"><times id="S4.E21.m1.5.5.1.1.2.1.1.2.1.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.1"></times><apply id="S4.E21.m1.5.5.1.1.2.1.1.2.2.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.2"><divide id="S4.E21.m1.5.5.1.1.2.1.1.2.2.1.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.2"></divide><cn id="S4.E21.m1.5.5.1.1.2.1.1.2.2.2.cmml" type="integer" xref="S4.E21.m1.5.5.1.1.2.1.1.2.2.2">1</cn><cn id="S4.E21.m1.5.5.1.1.2.1.1.2.2.3.cmml" type="integer" xref="S4.E21.m1.5.5.1.1.2.1.1.2.2.3">2</cn></apply><apply id="S4.E21.m1.5.5.1.1.2.1.1.2.3.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3"><log id="S4.E21.m1.5.5.1.1.2.1.1.2.3.1.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.1"></log><apply id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2"><csymbol cd="ambiguous" id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.1.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2">superscript</csymbol><apply id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2"><csymbol cd="ambiguous" id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.1.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2">subscript</csymbol><ci id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.2.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.2">𝜎</ci><ci id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.3.cmml" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.2.3">𝜃</ci></apply><cn id="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.3.cmml" type="integer" xref="S4.E21.m1.5.5.1.1.2.1.1.2.3.2.3">2</cn></apply></apply><ci id="S4.E21.m1.4.4.cmml" xref="S4.E21.m1.4.4">𝑥</ci></apply><apply id="S4.E21.m1.3.3.cmml" xref="S4.E21.m1.3.3"><divide id="S4.E21.m1.3.3.4.cmml" xref="S4.E21.m1.3.3"></divide><apply id="S4.E21.m1.2.2.2.cmml" xref="S4.E21.m1.2.2.2"><csymbol cd="ambiguous" id="S4.E21.m1.2.2.2.3.cmml" xref="S4.E21.m1.2.2.2">superscript</csymbol><apply id="S4.E21.m1.2.2.2.2.1.1.cmml" xref="S4.E21.m1.2.2.2.2.1"><minus id="S4.E21.m1.2.2.2.2.1.1.1.cmml" xref="S4.E21.m1.2.2.2.2.1.1.1"></minus><ci id="S4.E21.m1.2.2.2.2.1.1.2.cmml" xref="S4.E21.m1.2.2.2.2.1.1.2">𝑦</ci><apply id="S4.E21.m1.2.2.2.2.1.1.3.cmml" xref="S4.E21.m1.2.2.2.2.1.1.3"><times id="S4.E21.m1.2.2.2.2.1.1.3.1.cmml" xref="S4.E21.m1.2.2.2.2.1.1.3.1"></times><apply id="S4.E21.m1.2.2.2.2.1.1.3.2.cmml" xref="S4.E21.m1.2.2.2.2.1.1.3.2"><csymbol cd="ambiguous" id="S4.E21.m1.2.2.2.2.1.1.3.2.1.cmml" xref="S4.E21.m1.2.2.2.2.1.1.3.2">subscript</csymbol><ci id="S4.E21.m1.2.2.2.2.1.1.3.2.2.cmml" xref="S4.E21.m1.2.2.2.2.1.1.3.2.2">𝜇</ci><ci id="S4.E21.m1.2.2.2.2.1.1.3.2.3.cmml" xref="S4.E21.m1.2.2.2.2.1.1.3.2.3">𝜃</ci></apply><ci id="S4.E21.m1.1.1.1.1.cmml" xref="S4.E21.m1.1.1.1.1">𝑥</ci></apply></apply><cn id="S4.E21.m1.2.2.2.4.cmml" type="integer" xref="S4.E21.m1.2.2.2.4">2</cn></apply><apply id="S4.E21.m1.3.3.3.cmml" xref="S4.E21.m1.3.3.3"><times id="S4.E21.m1.3.3.3.2.cmml" xref="S4.E21.m1.3.3.3.2"></times><cn id="S4.E21.m1.3.3.3.3.cmml" type="integer" xref="S4.E21.m1.3.3.3.3">2</cn><apply id="S4.E21.m1.3.3.3.4.cmml" xref="S4.E21.m1.3.3.3.4"><csymbol cd="ambiguous" id="S4.E21.m1.3.3.3.4.1.cmml" xref="S4.E21.m1.3.3.3.4">superscript</csymbol><apply id="S4.E21.m1.3.3.3.4.2.cmml" xref="S4.E21.m1.3.3.3.4"><csymbol cd="ambiguous" id="S4.E21.m1.3.3.3.4.2.1.cmml" xref="S4.E21.m1.3.3.3.4">subscript</csymbol><ci id="S4.E21.m1.3.3.3.4.2.2.cmml" xref="S4.E21.m1.3.3.3.4.2.2">𝜎</ci><ci id="S4.E21.m1.3.3.3.4.2.3.cmml" xref="S4.E21.m1.3.3.3.4.2.3">𝜃</ci></apply><cn id="S4.E21.m1.3.3.3.4.3.cmml" type="integer" xref="S4.E21.m1.3.3.3.4.3">2</cn></apply><ci id="S4.E21.m1.3.3.3.1.cmml" xref="S4.E21.m1.3.3.3.1">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.E21.m1.5c">\text{sg}\left[\sigma_{\theta}^{2\beta}\right]\left(\frac{1}{2}\log\sigma_{% \theta}^{2}(x)+\frac{(y-\mu_{\theta}(x))^{2}}{2\sigma_{\theta}^{2}(x)}\right)\;,</annotation><annotation encoding="application/x-llamapun" id="S4.E21.m1.5d">sg [ italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 italic_β end_POSTSUPERSCRIPT ] ( divide start_ARG 1 end_ARG start_ARG 2 end_ARG roman_log italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) + divide start_ARG ( italic_y - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT end_ARG start_ARG 2 italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) end_ARG ) ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(21)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S4.SS1.p3.6">where <math alttext="\text{sg}[\cdot]" class="ltx_Math" display="inline" id="S4.SS1.p3.6.m1.1"><semantics id="S4.SS1.p3.6.m1.1a"><mrow id="S4.SS1.p3.6.m1.1.2" xref="S4.SS1.p3.6.m1.1.2.cmml"><mtext id="S4.SS1.p3.6.m1.1.2.2" xref="S4.SS1.p3.6.m1.1.2.2a.cmml">sg</mtext><mo id="S4.SS1.p3.6.m1.1.2.1" xref="S4.SS1.p3.6.m1.1.2.1.cmml">⁢</mo><mrow id="S4.SS1.p3.6.m1.1.2.3.2" xref="S4.SS1.p3.6.m1.1.2.3.1.cmml"><mo id="S4.SS1.p3.6.m1.1.2.3.2.1" stretchy="false" xref="S4.SS1.p3.6.m1.1.2.3.1.1.cmml">[</mo><mo id="S4.SS1.p3.6.m1.1.1" lspace="0em" rspace="0em" xref="S4.SS1.p3.6.m1.1.1.cmml">⋅</mo><mo id="S4.SS1.p3.6.m1.1.2.3.2.2" stretchy="false" xref="S4.SS1.p3.6.m1.1.2.3.1.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.6.m1.1b"><apply id="S4.SS1.p3.6.m1.1.2.cmml" xref="S4.SS1.p3.6.m1.1.2"><times id="S4.SS1.p3.6.m1.1.2.1.cmml" xref="S4.SS1.p3.6.m1.1.2.1"></times><ci id="S4.SS1.p3.6.m1.1.2.2a.cmml" xref="S4.SS1.p3.6.m1.1.2.2"><mtext id="S4.SS1.p3.6.m1.1.2.2.cmml" xref="S4.SS1.p3.6.m1.1.2.2">sg</mtext></ci><apply id="S4.SS1.p3.6.m1.1.2.3.1.cmml" xref="S4.SS1.p3.6.m1.1.2.3.2"><csymbol cd="latexml" id="S4.SS1.p3.6.m1.1.2.3.1.1.cmml" xref="S4.SS1.p3.6.m1.1.2.3.2.1">delimited-[]</csymbol><ci id="S4.SS1.p3.6.m1.1.1.cmml" xref="S4.SS1.p3.6.m1.1.1">⋅</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.6.m1.1c">\text{sg}[\cdot]</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.6.m1.1d">sg [ ⋅ ]</annotation></semantics></math> denotes the stop-gradient operation. In other words, the argument is considered to be fixed when computing the gradient:</p> <table class="ltx_equation ltx_eqn_table" id="S4.E22"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\nabla_{\theta}\ell_{\beta-\text{NLL}}=\sigma_{\theta}^{2\beta}\nabla_{\theta}% \ell_{\text{NLL}}\;," class="ltx_Math" display="block" id="S4.E22.m1.1"><semantics id="S4.E22.m1.1a"><mrow id="S4.E22.m1.1.1.1" xref="S4.E22.m1.1.1.1.1.cmml"><mrow id="S4.E22.m1.1.1.1.1" xref="S4.E22.m1.1.1.1.1.cmml"><mrow id="S4.E22.m1.1.1.1.1.2" xref="S4.E22.m1.1.1.1.1.2.cmml"><msub id="S4.E22.m1.1.1.1.1.2.1" xref="S4.E22.m1.1.1.1.1.2.1.cmml"><mo id="S4.E22.m1.1.1.1.1.2.1.2" xref="S4.E22.m1.1.1.1.1.2.1.2.cmml">∇</mo><mi id="S4.E22.m1.1.1.1.1.2.1.3" xref="S4.E22.m1.1.1.1.1.2.1.3.cmml">θ</mi></msub><msub id="S4.E22.m1.1.1.1.1.2.2" xref="S4.E22.m1.1.1.1.1.2.2.cmml"><mi id="S4.E22.m1.1.1.1.1.2.2.2" mathvariant="normal" xref="S4.E22.m1.1.1.1.1.2.2.2.cmml">ℓ</mi><mrow id="S4.E22.m1.1.1.1.1.2.2.3" xref="S4.E22.m1.1.1.1.1.2.2.3.cmml"><mi id="S4.E22.m1.1.1.1.1.2.2.3.2" xref="S4.E22.m1.1.1.1.1.2.2.3.2.cmml">β</mi><mo id="S4.E22.m1.1.1.1.1.2.2.3.1" xref="S4.E22.m1.1.1.1.1.2.2.3.1.cmml">−</mo><mtext id="S4.E22.m1.1.1.1.1.2.2.3.3" xref="S4.E22.m1.1.1.1.1.2.2.3.3a.cmml">NLL</mtext></mrow></msub></mrow><mo id="S4.E22.m1.1.1.1.1.1" xref="S4.E22.m1.1.1.1.1.1.cmml">=</mo><mrow id="S4.E22.m1.1.1.1.1.3" xref="S4.E22.m1.1.1.1.1.3.cmml"><msubsup id="S4.E22.m1.1.1.1.1.3.2" xref="S4.E22.m1.1.1.1.1.3.2.cmml"><mi id="S4.E22.m1.1.1.1.1.3.2.2.2" xref="S4.E22.m1.1.1.1.1.3.2.2.2.cmml">σ</mi><mi id="S4.E22.m1.1.1.1.1.3.2.2.3" xref="S4.E22.m1.1.1.1.1.3.2.2.3.cmml">θ</mi><mrow id="S4.E22.m1.1.1.1.1.3.2.3" xref="S4.E22.m1.1.1.1.1.3.2.3.cmml"><mn id="S4.E22.m1.1.1.1.1.3.2.3.2" xref="S4.E22.m1.1.1.1.1.3.2.3.2.cmml">2</mn><mo id="S4.E22.m1.1.1.1.1.3.2.3.1" xref="S4.E22.m1.1.1.1.1.3.2.3.1.cmml">⁢</mo><mi id="S4.E22.m1.1.1.1.1.3.2.3.3" xref="S4.E22.m1.1.1.1.1.3.2.3.3.cmml">β</mi></mrow></msubsup><mo id="S4.E22.m1.1.1.1.1.3.1" lspace="0.167em" xref="S4.E22.m1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="S4.E22.m1.1.1.1.1.3.3" xref="S4.E22.m1.1.1.1.1.3.3.cmml"><msub id="S4.E22.m1.1.1.1.1.3.3.1" xref="S4.E22.m1.1.1.1.1.3.3.1.cmml"><mo id="S4.E22.m1.1.1.1.1.3.3.1.2" rspace="0.167em" xref="S4.E22.m1.1.1.1.1.3.3.1.2.cmml">∇</mo><mi id="S4.E22.m1.1.1.1.1.3.3.1.3" xref="S4.E22.m1.1.1.1.1.3.3.1.3.cmml">θ</mi></msub><msub id="S4.E22.m1.1.1.1.1.3.3.2" xref="S4.E22.m1.1.1.1.1.3.3.2.cmml"><mi id="S4.E22.m1.1.1.1.1.3.3.2.2" mathvariant="normal" xref="S4.E22.m1.1.1.1.1.3.3.2.2.cmml">ℓ</mi><mtext id="S4.E22.m1.1.1.1.1.3.3.2.3" xref="S4.E22.m1.1.1.1.1.3.3.2.3a.cmml">NLL</mtext></msub></mrow></mrow></mrow><mo id="S4.E22.m1.1.1.1.2" xref="S4.E22.m1.1.1.1.1.cmml">,</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.E22.m1.1b"><apply id="S4.E22.m1.1.1.1.1.cmml" xref="S4.E22.m1.1.1.1"><eq id="S4.E22.m1.1.1.1.1.1.cmml" xref="S4.E22.m1.1.1.1.1.1"></eq><apply id="S4.E22.m1.1.1.1.1.2.cmml" xref="S4.E22.m1.1.1.1.1.2"><apply id="S4.E22.m1.1.1.1.1.2.1.cmml" xref="S4.E22.m1.1.1.1.1.2.1"><csymbol cd="ambiguous" id="S4.E22.m1.1.1.1.1.2.1.1.cmml" xref="S4.E22.m1.1.1.1.1.2.1">subscript</csymbol><ci id="S4.E22.m1.1.1.1.1.2.1.2.cmml" xref="S4.E22.m1.1.1.1.1.2.1.2">∇</ci><ci id="S4.E22.m1.1.1.1.1.2.1.3.cmml" xref="S4.E22.m1.1.1.1.1.2.1.3">𝜃</ci></apply><apply id="S4.E22.m1.1.1.1.1.2.2.cmml" xref="S4.E22.m1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="S4.E22.m1.1.1.1.1.2.2.1.cmml" xref="S4.E22.m1.1.1.1.1.2.2">subscript</csymbol><ci id="S4.E22.m1.1.1.1.1.2.2.2.cmml" xref="S4.E22.m1.1.1.1.1.2.2.2">ℓ</ci><apply id="S4.E22.m1.1.1.1.1.2.2.3.cmml" xref="S4.E22.m1.1.1.1.1.2.2.3"><minus id="S4.E22.m1.1.1.1.1.2.2.3.1.cmml" xref="S4.E22.m1.1.1.1.1.2.2.3.1"></minus><ci id="S4.E22.m1.1.1.1.1.2.2.3.2.cmml" xref="S4.E22.m1.1.1.1.1.2.2.3.2">𝛽</ci><ci id="S4.E22.m1.1.1.1.1.2.2.3.3a.cmml" xref="S4.E22.m1.1.1.1.1.2.2.3.3"><mtext id="S4.E22.m1.1.1.1.1.2.2.3.3.cmml" mathsize="70%" xref="S4.E22.m1.1.1.1.1.2.2.3.3">NLL</mtext></ci></apply></apply></apply><apply id="S4.E22.m1.1.1.1.1.3.cmml" xref="S4.E22.m1.1.1.1.1.3"><times id="S4.E22.m1.1.1.1.1.3.1.cmml" xref="S4.E22.m1.1.1.1.1.3.1"></times><apply id="S4.E22.m1.1.1.1.1.3.2.cmml" xref="S4.E22.m1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="S4.E22.m1.1.1.1.1.3.2.1.cmml" xref="S4.E22.m1.1.1.1.1.3.2">superscript</csymbol><apply id="S4.E22.m1.1.1.1.1.3.2.2.cmml" xref="S4.E22.m1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="S4.E22.m1.1.1.1.1.3.2.2.1.cmml" xref="S4.E22.m1.1.1.1.1.3.2">subscript</csymbol><ci id="S4.E22.m1.1.1.1.1.3.2.2.2.cmml" xref="S4.E22.m1.1.1.1.1.3.2.2.2">𝜎</ci><ci id="S4.E22.m1.1.1.1.1.3.2.2.3.cmml" xref="S4.E22.m1.1.1.1.1.3.2.2.3">𝜃</ci></apply><apply id="S4.E22.m1.1.1.1.1.3.2.3.cmml" xref="S4.E22.m1.1.1.1.1.3.2.3"><times id="S4.E22.m1.1.1.1.1.3.2.3.1.cmml" xref="S4.E22.m1.1.1.1.1.3.2.3.1"></times><cn id="S4.E22.m1.1.1.1.1.3.2.3.2.cmml" type="integer" xref="S4.E22.m1.1.1.1.1.3.2.3.2">2</cn><ci id="S4.E22.m1.1.1.1.1.3.2.3.3.cmml" xref="S4.E22.m1.1.1.1.1.3.2.3.3">𝛽</ci></apply></apply><apply id="S4.E22.m1.1.1.1.1.3.3.cmml" xref="S4.E22.m1.1.1.1.1.3.3"><apply id="S4.E22.m1.1.1.1.1.3.3.1.cmml" xref="S4.E22.m1.1.1.1.1.3.3.1"><csymbol cd="ambiguous" id="S4.E22.m1.1.1.1.1.3.3.1.1.cmml" xref="S4.E22.m1.1.1.1.1.3.3.1">subscript</csymbol><ci id="S4.E22.m1.1.1.1.1.3.3.1.2.cmml" xref="S4.E22.m1.1.1.1.1.3.3.1.2">∇</ci><ci id="S4.E22.m1.1.1.1.1.3.3.1.3.cmml" xref="S4.E22.m1.1.1.1.1.3.3.1.3">𝜃</ci></apply><apply id="S4.E22.m1.1.1.1.1.3.3.2.cmml" xref="S4.E22.m1.1.1.1.1.3.3.2"><csymbol cd="ambiguous" id="S4.E22.m1.1.1.1.1.3.3.2.1.cmml" xref="S4.E22.m1.1.1.1.1.3.3.2">subscript</csymbol><ci id="S4.E22.m1.1.1.1.1.3.3.2.2.cmml" xref="S4.E22.m1.1.1.1.1.3.3.2.2">ℓ</ci><ci id="S4.E22.m1.1.1.1.1.3.3.2.3a.cmml" xref="S4.E22.m1.1.1.1.1.3.3.2.3"><mtext id="S4.E22.m1.1.1.1.1.3.3.2.3.cmml" mathsize="70%" xref="S4.E22.m1.1.1.1.1.3.3.2.3">NLL</mtext></ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.E22.m1.1c">\nabla_{\theta}\ell_{\beta-\text{NLL}}=\sigma_{\theta}^{2\beta}\nabla_{\theta}% \ell_{\text{NLL}}\;,</annotation><annotation encoding="application/x-llamapun" id="S4.E22.m1.1d">∇ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT roman_ℓ start_POSTSUBSCRIPT italic_β - NLL end_POSTSUBSCRIPT = italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 italic_β end_POSTSUPERSCRIPT ∇ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT roman_ℓ start_POSTSUBSCRIPT NLL end_POSTSUBSCRIPT ,</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(22)</span></td> </tr></tbody> </table> <p class="ltx_p" id="S4.SS1.p3.9">with <math alttext="\beta=0.5" class="ltx_Math" display="inline" id="S4.SS1.p3.7.m1.1"><semantics id="S4.SS1.p3.7.m1.1a"><mrow id="S4.SS1.p3.7.m1.1.1" xref="S4.SS1.p3.7.m1.1.1.cmml"><mi id="S4.SS1.p3.7.m1.1.1.2" xref="S4.SS1.p3.7.m1.1.1.2.cmml">β</mi><mo id="S4.SS1.p3.7.m1.1.1.1" xref="S4.SS1.p3.7.m1.1.1.1.cmml">=</mo><mn id="S4.SS1.p3.7.m1.1.1.3" xref="S4.SS1.p3.7.m1.1.1.3.cmml">0.5</mn></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.7.m1.1b"><apply id="S4.SS1.p3.7.m1.1.1.cmml" xref="S4.SS1.p3.7.m1.1.1"><eq id="S4.SS1.p3.7.m1.1.1.1.cmml" xref="S4.SS1.p3.7.m1.1.1.1"></eq><ci id="S4.SS1.p3.7.m1.1.1.2.cmml" xref="S4.SS1.p3.7.m1.1.1.2">𝛽</ci><cn id="S4.SS1.p3.7.m1.1.1.3.cmml" type="float" xref="S4.SS1.p3.7.m1.1.1.3">0.5</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.7.m1.1c">\beta=0.5</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.7.m1.1d">italic_β = 0.5</annotation></semantics></math>, which gives a good trade-off between the prediction of <math alttext="\mu_{\theta}" class="ltx_Math" display="inline" id="S4.SS1.p3.8.m2.1"><semantics id="S4.SS1.p3.8.m2.1a"><msub id="S4.SS1.p3.8.m2.1.1" xref="S4.SS1.p3.8.m2.1.1.cmml"><mi id="S4.SS1.p3.8.m2.1.1.2" xref="S4.SS1.p3.8.m2.1.1.2.cmml">μ</mi><mi id="S4.SS1.p3.8.m2.1.1.3" xref="S4.SS1.p3.8.m2.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.8.m2.1b"><apply id="S4.SS1.p3.8.m2.1.1.cmml" xref="S4.SS1.p3.8.m2.1.1"><csymbol cd="ambiguous" id="S4.SS1.p3.8.m2.1.1.1.cmml" xref="S4.SS1.p3.8.m2.1.1">subscript</csymbol><ci id="S4.SS1.p3.8.m2.1.1.2.cmml" xref="S4.SS1.p3.8.m2.1.1.2">𝜇</ci><ci id="S4.SS1.p3.8.m2.1.1.3.cmml" xref="S4.SS1.p3.8.m2.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.8.m2.1c">\mu_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.8.m2.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="\sigma^{2}_{\theta}" class="ltx_Math" display="inline" id="S4.SS1.p3.9.m3.1"><semantics id="S4.SS1.p3.9.m3.1a"><msubsup id="S4.SS1.p3.9.m3.1.1" xref="S4.SS1.p3.9.m3.1.1.cmml"><mi id="S4.SS1.p3.9.m3.1.1.2.2" xref="S4.SS1.p3.9.m3.1.1.2.2.cmml">σ</mi><mi id="S4.SS1.p3.9.m3.1.1.3" xref="S4.SS1.p3.9.m3.1.1.3.cmml">θ</mi><mn id="S4.SS1.p3.9.m3.1.1.2.3" xref="S4.SS1.p3.9.m3.1.1.2.3.cmml">2</mn></msubsup><annotation-xml encoding="MathML-Content" id="S4.SS1.p3.9.m3.1b"><apply id="S4.SS1.p3.9.m3.1.1.cmml" xref="S4.SS1.p3.9.m3.1.1"><csymbol cd="ambiguous" id="S4.SS1.p3.9.m3.1.1.1.cmml" xref="S4.SS1.p3.9.m3.1.1">subscript</csymbol><apply id="S4.SS1.p3.9.m3.1.1.2.cmml" xref="S4.SS1.p3.9.m3.1.1"><csymbol cd="ambiguous" id="S4.SS1.p3.9.m3.1.1.2.1.cmml" xref="S4.SS1.p3.9.m3.1.1">superscript</csymbol><ci id="S4.SS1.p3.9.m3.1.1.2.2.cmml" xref="S4.SS1.p3.9.m3.1.1.2.2">𝜎</ci><cn id="S4.SS1.p3.9.m3.1.1.2.3.cmml" type="integer" xref="S4.SS1.p3.9.m3.1.1.2.3">2</cn></apply><ci id="S4.SS1.p3.9.m3.1.1.3.cmml" xref="S4.SS1.p3.9.m3.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p3.9.m3.1c">\sigma^{2}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p3.9.m3.1d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math>.</p> </div> <div class="ltx_para" id="S4.SS1.p4"> <p class="ltx_p" id="S4.SS1.p4.3">The results are given in Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.F3" title="Figure 3 ‣ 4.1 Synthetic Dataset ‣ 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">3</span></a> (left). It can be seen that the correlation between the two answers is only large outside of the training range, whereas the aleatoric prediction presents a maximum around 0, where the data variance is high. In Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.F3" title="Figure 3 ‣ 4.1 Synthetic Dataset ‣ 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">3</span></a> (right), the results when training only on tuples <math alttext="(x_{i},y_{i})" class="ltx_Math" display="inline" id="S4.SS1.p4.1.m1.2"><semantics id="S4.SS1.p4.1.m1.2a"><mrow id="S4.SS1.p4.1.m1.2.2.2" xref="S4.SS1.p4.1.m1.2.2.3.cmml"><mo id="S4.SS1.p4.1.m1.2.2.2.3" stretchy="false" xref="S4.SS1.p4.1.m1.2.2.3.cmml">(</mo><msub id="S4.SS1.p4.1.m1.1.1.1.1" xref="S4.SS1.p4.1.m1.1.1.1.1.cmml"><mi id="S4.SS1.p4.1.m1.1.1.1.1.2" xref="S4.SS1.p4.1.m1.1.1.1.1.2.cmml">x</mi><mi id="S4.SS1.p4.1.m1.1.1.1.1.3" xref="S4.SS1.p4.1.m1.1.1.1.1.3.cmml">i</mi></msub><mo id="S4.SS1.p4.1.m1.2.2.2.4" xref="S4.SS1.p4.1.m1.2.2.3.cmml">,</mo><msub id="S4.SS1.p4.1.m1.2.2.2.2" xref="S4.SS1.p4.1.m1.2.2.2.2.cmml"><mi id="S4.SS1.p4.1.m1.2.2.2.2.2" xref="S4.SS1.p4.1.m1.2.2.2.2.2.cmml">y</mi><mi id="S4.SS1.p4.1.m1.2.2.2.2.3" xref="S4.SS1.p4.1.m1.2.2.2.2.3.cmml">i</mi></msub><mo id="S4.SS1.p4.1.m1.2.2.2.5" stretchy="false" xref="S4.SS1.p4.1.m1.2.2.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p4.1.m1.2b"><interval closure="open" id="S4.SS1.p4.1.m1.2.2.3.cmml" xref="S4.SS1.p4.1.m1.2.2.2"><apply id="S4.SS1.p4.1.m1.1.1.1.1.cmml" xref="S4.SS1.p4.1.m1.1.1.1.1"><csymbol cd="ambiguous" id="S4.SS1.p4.1.m1.1.1.1.1.1.cmml" xref="S4.SS1.p4.1.m1.1.1.1.1">subscript</csymbol><ci id="S4.SS1.p4.1.m1.1.1.1.1.2.cmml" xref="S4.SS1.p4.1.m1.1.1.1.1.2">𝑥</ci><ci id="S4.SS1.p4.1.m1.1.1.1.1.3.cmml" xref="S4.SS1.p4.1.m1.1.1.1.1.3">𝑖</ci></apply><apply id="S4.SS1.p4.1.m1.2.2.2.2.cmml" xref="S4.SS1.p4.1.m1.2.2.2.2"><csymbol cd="ambiguous" id="S4.SS1.p4.1.m1.2.2.2.2.1.cmml" xref="S4.SS1.p4.1.m1.2.2.2.2">subscript</csymbol><ci id="S4.SS1.p4.1.m1.2.2.2.2.2.cmml" xref="S4.SS1.p4.1.m1.2.2.2.2.2">𝑦</ci><ci id="S4.SS1.p4.1.m1.2.2.2.2.3.cmml" xref="S4.SS1.p4.1.m1.2.2.2.2.3">𝑖</ci></apply></interval></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p4.1.m1.2c">(x_{i},y_{i})</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p4.1.m1.2d">( italic_x start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT )</annotation></semantics></math> are shown: it is interesting to see that in this case the model is not able to distinguish aleatoric and epistemic uncertainty, as predicted in Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem6" title="Theorem 2.6. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.6</span></a>, so that the covariance presents the exact same maximum around 0 as the aleatoric variance. This highlights the importance of the present theoretical results, which demand to change the training procedure in order to obtain a meaningful frequentist measure of the epistemic uncertainty. As an important side note, it must be stressed that all the theorems are valid only if the model is well calibrated enough to begin with, which means that there are no guarantees on the performance of the current methodology for out-of-distribution samples. Nevertheless, it can e argued that high values of correlation between the two responses of the model will be a sign of epistemic uncertainty (when triples are used during training) because, under no circumstances, it can derive from the true underlying distribution if <math alttext="Y_{1}|X" class="ltx_Math" display="inline" id="S4.SS1.p4.2.m2.1"><semantics id="S4.SS1.p4.2.m2.1a"><mrow id="S4.SS1.p4.2.m2.1.1" xref="S4.SS1.p4.2.m2.1.1.cmml"><msub id="S4.SS1.p4.2.m2.1.1.2" xref="S4.SS1.p4.2.m2.1.1.2.cmml"><mi id="S4.SS1.p4.2.m2.1.1.2.2" xref="S4.SS1.p4.2.m2.1.1.2.2.cmml">Y</mi><mn id="S4.SS1.p4.2.m2.1.1.2.3" xref="S4.SS1.p4.2.m2.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="S4.SS1.p4.2.m2.1.1.1" xref="S4.SS1.p4.2.m2.1.1.1.cmml">|</mo><mi id="S4.SS1.p4.2.m2.1.1.3" xref="S4.SS1.p4.2.m2.1.1.3.cmml">X</mi></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p4.2.m2.1b"><apply id="S4.SS1.p4.2.m2.1.1.cmml" xref="S4.SS1.p4.2.m2.1.1"><csymbol cd="latexml" id="S4.SS1.p4.2.m2.1.1.1.cmml" xref="S4.SS1.p4.2.m2.1.1.1">conditional</csymbol><apply id="S4.SS1.p4.2.m2.1.1.2.cmml" xref="S4.SS1.p4.2.m2.1.1.2"><csymbol cd="ambiguous" id="S4.SS1.p4.2.m2.1.1.2.1.cmml" xref="S4.SS1.p4.2.m2.1.1.2">subscript</csymbol><ci id="S4.SS1.p4.2.m2.1.1.2.2.cmml" xref="S4.SS1.p4.2.m2.1.1.2.2">𝑌</ci><cn id="S4.SS1.p4.2.m2.1.1.2.3.cmml" type="integer" xref="S4.SS1.p4.2.m2.1.1.2.3">1</cn></apply><ci id="S4.SS1.p4.2.m2.1.1.3.cmml" xref="S4.SS1.p4.2.m2.1.1.3">𝑋</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p4.2.m2.1c">Y_{1}|X</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p4.2.m2.1d">italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X</annotation></semantics></math> and <math alttext="Y_{2}|X" class="ltx_Math" display="inline" id="S4.SS1.p4.3.m3.1"><semantics id="S4.SS1.p4.3.m3.1a"><mrow id="S4.SS1.p4.3.m3.1.1" xref="S4.SS1.p4.3.m3.1.1.cmml"><msub id="S4.SS1.p4.3.m3.1.1.2" xref="S4.SS1.p4.3.m3.1.1.2.cmml"><mi id="S4.SS1.p4.3.m3.1.1.2.2" xref="S4.SS1.p4.3.m3.1.1.2.2.cmml">Y</mi><mn id="S4.SS1.p4.3.m3.1.1.2.3" xref="S4.SS1.p4.3.m3.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="S4.SS1.p4.3.m3.1.1.1" xref="S4.SS1.p4.3.m3.1.1.1.cmml">|</mo><mi id="S4.SS1.p4.3.m3.1.1.3" xref="S4.SS1.p4.3.m3.1.1.3.cmml">X</mi></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p4.3.m3.1b"><apply id="S4.SS1.p4.3.m3.1.1.cmml" xref="S4.SS1.p4.3.m3.1.1"><csymbol cd="latexml" id="S4.SS1.p4.3.m3.1.1.1.cmml" xref="S4.SS1.p4.3.m3.1.1.1">conditional</csymbol><apply id="S4.SS1.p4.3.m3.1.1.2.cmml" xref="S4.SS1.p4.3.m3.1.1.2"><csymbol cd="ambiguous" id="S4.SS1.p4.3.m3.1.1.2.1.cmml" xref="S4.SS1.p4.3.m3.1.1.2">subscript</csymbol><ci id="S4.SS1.p4.3.m3.1.1.2.2.cmml" xref="S4.SS1.p4.3.m3.1.1.2.2">𝑌</ci><cn id="S4.SS1.p4.3.m3.1.1.2.3.cmml" type="integer" xref="S4.SS1.p4.3.m3.1.1.2.3">2</cn></apply><ci id="S4.SS1.p4.3.m3.1.1.3.cmml" xref="S4.SS1.p4.3.m3.1.1.3">𝑋</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p4.3.m3.1c">Y_{2}|X</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p4.3.m3.1d">italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X</annotation></semantics></math> are iid.</p> </div> <figure class="ltx_figure" id="S4.F3"><img alt="Refer to caption" class="ltx_graphics ltx_centering ltx_img_landscape" height="202" id="S4.F3.g1" src="x1.png" width="581"/> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 3: </span><span class="ltx_text ltx_font_bold" id="S4.F3.2.1" style="font-size:90%;">Toy model: comparing training on couples and triplets.<span class="ltx_text ltx_font_medium" id="S4.F3.2.1.1"> Results of the simplified experiment. On the left, the model is trained on triplets <math alttext="(x,y_{1},y_{2})" class="ltx_Math" display="inline" id="S4.F3.2.1.1.m1.3"><semantics id="S4.F3.2.1.1.m1.3b"><mrow id="S4.F3.2.1.1.m1.3.3.2" xref="S4.F3.2.1.1.m1.3.3.3.cmml"><mo id="S4.F3.2.1.1.m1.3.3.2.3" stretchy="false" xref="S4.F3.2.1.1.m1.3.3.3.cmml">(</mo><mi id="S4.F3.2.1.1.m1.1.1" xref="S4.F3.2.1.1.m1.1.1.cmml">x</mi><mo id="S4.F3.2.1.1.m1.3.3.2.4" xref="S4.F3.2.1.1.m1.3.3.3.cmml">,</mo><msub id="S4.F3.2.1.1.m1.2.2.1.1" xref="S4.F3.2.1.1.m1.2.2.1.1.cmml"><mi id="S4.F3.2.1.1.m1.2.2.1.1.2" xref="S4.F3.2.1.1.m1.2.2.1.1.2.cmml">y</mi><mn id="S4.F3.2.1.1.m1.2.2.1.1.3" xref="S4.F3.2.1.1.m1.2.2.1.1.3.cmml">1</mn></msub><mo id="S4.F3.2.1.1.m1.3.3.2.5" xref="S4.F3.2.1.1.m1.3.3.3.cmml">,</mo><msub id="S4.F3.2.1.1.m1.3.3.2.2" xref="S4.F3.2.1.1.m1.3.3.2.2.cmml"><mi id="S4.F3.2.1.1.m1.3.3.2.2.2" xref="S4.F3.2.1.1.m1.3.3.2.2.2.cmml">y</mi><mn id="S4.F3.2.1.1.m1.3.3.2.2.3" xref="S4.F3.2.1.1.m1.3.3.2.2.3.cmml">2</mn></msub><mo id="S4.F3.2.1.1.m1.3.3.2.6" stretchy="false" xref="S4.F3.2.1.1.m1.3.3.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.F3.2.1.1.m1.3c"><vector id="S4.F3.2.1.1.m1.3.3.3.cmml" xref="S4.F3.2.1.1.m1.3.3.2"><ci id="S4.F3.2.1.1.m1.1.1.cmml" xref="S4.F3.2.1.1.m1.1.1">𝑥</ci><apply id="S4.F3.2.1.1.m1.2.2.1.1.cmml" xref="S4.F3.2.1.1.m1.2.2.1.1"><csymbol cd="ambiguous" id="S4.F3.2.1.1.m1.2.2.1.1.1.cmml" xref="S4.F3.2.1.1.m1.2.2.1.1">subscript</csymbol><ci id="S4.F3.2.1.1.m1.2.2.1.1.2.cmml" xref="S4.F3.2.1.1.m1.2.2.1.1.2">𝑦</ci><cn id="S4.F3.2.1.1.m1.2.2.1.1.3.cmml" type="integer" xref="S4.F3.2.1.1.m1.2.2.1.1.3">1</cn></apply><apply id="S4.F3.2.1.1.m1.3.3.2.2.cmml" xref="S4.F3.2.1.1.m1.3.3.2.2"><csymbol cd="ambiguous" id="S4.F3.2.1.1.m1.3.3.2.2.1.cmml" xref="S4.F3.2.1.1.m1.3.3.2.2">subscript</csymbol><ci id="S4.F3.2.1.1.m1.3.3.2.2.2.cmml" xref="S4.F3.2.1.1.m1.3.3.2.2.2">𝑦</ci><cn id="S4.F3.2.1.1.m1.3.3.2.2.3.cmml" type="integer" xref="S4.F3.2.1.1.m1.3.3.2.2.3">2</cn></apply></vector></annotation-xml><annotation encoding="application/x-tex" id="S4.F3.2.1.1.m1.3d">(x,y_{1},y_{2})</annotation><annotation encoding="application/x-llamapun" id="S4.F3.2.1.1.m1.3e">( italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT )</annotation></semantics></math>, whereas on the right we only used tuples.</span></span></figcaption> </figure> <div class="ltx_para" id="S4.SS1.p5"> <p class="ltx_p" id="S4.SS1.p5.4">Motivated by recent work on the disentangling of epistemic and aleatoric uncertainty <cite class="ltx_cite ltx_citemacro_citep">(Mucsányi et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib13" title="">2024</a>)</cite>, the methodology was tested with different levels of corruption <math alttext="\sigma(x)=\gamma\exp(-x^{2}/2)" class="ltx_Math" display="inline" id="S4.SS1.p5.1.m1.3"><semantics id="S4.SS1.p5.1.m1.3a"><mrow id="S4.SS1.p5.1.m1.3.3" xref="S4.SS1.p5.1.m1.3.3.cmml"><mrow id="S4.SS1.p5.1.m1.3.3.3" xref="S4.SS1.p5.1.m1.3.3.3.cmml"><mi id="S4.SS1.p5.1.m1.3.3.3.2" xref="S4.SS1.p5.1.m1.3.3.3.2.cmml">σ</mi><mo id="S4.SS1.p5.1.m1.3.3.3.1" xref="S4.SS1.p5.1.m1.3.3.3.1.cmml">⁢</mo><mrow id="S4.SS1.p5.1.m1.3.3.3.3.2" xref="S4.SS1.p5.1.m1.3.3.3.cmml"><mo id="S4.SS1.p5.1.m1.3.3.3.3.2.1" stretchy="false" xref="S4.SS1.p5.1.m1.3.3.3.cmml">(</mo><mi id="S4.SS1.p5.1.m1.1.1" xref="S4.SS1.p5.1.m1.1.1.cmml">x</mi><mo id="S4.SS1.p5.1.m1.3.3.3.3.2.2" stretchy="false" xref="S4.SS1.p5.1.m1.3.3.3.cmml">)</mo></mrow></mrow><mo id="S4.SS1.p5.1.m1.3.3.2" xref="S4.SS1.p5.1.m1.3.3.2.cmml">=</mo><mrow id="S4.SS1.p5.1.m1.3.3.1" xref="S4.SS1.p5.1.m1.3.3.1.cmml"><mi id="S4.SS1.p5.1.m1.3.3.1.3" xref="S4.SS1.p5.1.m1.3.3.1.3.cmml">γ</mi><mo id="S4.SS1.p5.1.m1.3.3.1.2" lspace="0.167em" xref="S4.SS1.p5.1.m1.3.3.1.2.cmml">⁢</mo><mrow id="S4.SS1.p5.1.m1.3.3.1.1.1" xref="S4.SS1.p5.1.m1.3.3.1.1.2.cmml"><mi id="S4.SS1.p5.1.m1.2.2" xref="S4.SS1.p5.1.m1.2.2.cmml">exp</mi><mo id="S4.SS1.p5.1.m1.3.3.1.1.1a" xref="S4.SS1.p5.1.m1.3.3.1.1.2.cmml">⁡</mo><mrow id="S4.SS1.p5.1.m1.3.3.1.1.1.1" xref="S4.SS1.p5.1.m1.3.3.1.1.2.cmml"><mo id="S4.SS1.p5.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="S4.SS1.p5.1.m1.3.3.1.1.2.cmml">(</mo><mrow id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.cmml"><mo id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1a" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.cmml">−</mo><mrow id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.cmml"><msup id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.cmml"><mi id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.2" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.2.cmml">x</mi><mn id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.3" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.3.cmml">2</mn></msup><mo id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.1" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.1.cmml">/</mo><mn id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.3" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.3.cmml">2</mn></mrow></mrow><mo id="S4.SS1.p5.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="S4.SS1.p5.1.m1.3.3.1.1.2.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p5.1.m1.3b"><apply id="S4.SS1.p5.1.m1.3.3.cmml" xref="S4.SS1.p5.1.m1.3.3"><eq id="S4.SS1.p5.1.m1.3.3.2.cmml" xref="S4.SS1.p5.1.m1.3.3.2"></eq><apply id="S4.SS1.p5.1.m1.3.3.3.cmml" xref="S4.SS1.p5.1.m1.3.3.3"><times id="S4.SS1.p5.1.m1.3.3.3.1.cmml" xref="S4.SS1.p5.1.m1.3.3.3.1"></times><ci id="S4.SS1.p5.1.m1.3.3.3.2.cmml" xref="S4.SS1.p5.1.m1.3.3.3.2">𝜎</ci><ci id="S4.SS1.p5.1.m1.1.1.cmml" xref="S4.SS1.p5.1.m1.1.1">𝑥</ci></apply><apply id="S4.SS1.p5.1.m1.3.3.1.cmml" xref="S4.SS1.p5.1.m1.3.3.1"><times id="S4.SS1.p5.1.m1.3.3.1.2.cmml" xref="S4.SS1.p5.1.m1.3.3.1.2"></times><ci id="S4.SS1.p5.1.m1.3.3.1.3.cmml" xref="S4.SS1.p5.1.m1.3.3.1.3">𝛾</ci><apply id="S4.SS1.p5.1.m1.3.3.1.1.2.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1"><exp id="S4.SS1.p5.1.m1.2.2.cmml" xref="S4.SS1.p5.1.m1.2.2"></exp><apply id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1"><minus id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.1.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1"></minus><apply id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2"><divide id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.1.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.1"></divide><apply id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.1.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2">superscript</csymbol><ci id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.2.cmml" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.2">𝑥</ci><cn id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.3.cmml" type="integer" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.2.3">2</cn></apply><cn id="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.3.cmml" type="integer" xref="S4.SS1.p5.1.m1.3.3.1.1.1.1.1.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p5.1.m1.3c">\sigma(x)=\gamma\exp(-x^{2}/2)</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p5.1.m1.3d">italic_σ ( italic_x ) = italic_γ roman_exp ( - italic_x start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT / 2 )</annotation></semantics></math>, with <math alttext="\gamma=1,1.5,3" class="ltx_Math" display="inline" id="S4.SS1.p5.2.m2.3"><semantics id="S4.SS1.p5.2.m2.3a"><mrow id="S4.SS1.p5.2.m2.3.4" xref="S4.SS1.p5.2.m2.3.4.cmml"><mi id="S4.SS1.p5.2.m2.3.4.2" xref="S4.SS1.p5.2.m2.3.4.2.cmml">γ</mi><mo id="S4.SS1.p5.2.m2.3.4.1" xref="S4.SS1.p5.2.m2.3.4.1.cmml">=</mo><mrow id="S4.SS1.p5.2.m2.3.4.3.2" xref="S4.SS1.p5.2.m2.3.4.3.1.cmml"><mn id="S4.SS1.p5.2.m2.1.1" xref="S4.SS1.p5.2.m2.1.1.cmml">1</mn><mo id="S4.SS1.p5.2.m2.3.4.3.2.1" xref="S4.SS1.p5.2.m2.3.4.3.1.cmml">,</mo><mn id="S4.SS1.p5.2.m2.2.2" xref="S4.SS1.p5.2.m2.2.2.cmml">1.5</mn><mo id="S4.SS1.p5.2.m2.3.4.3.2.2" xref="S4.SS1.p5.2.m2.3.4.3.1.cmml">,</mo><mn id="S4.SS1.p5.2.m2.3.3" xref="S4.SS1.p5.2.m2.3.3.cmml">3</mn></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p5.2.m2.3b"><apply id="S4.SS1.p5.2.m2.3.4.cmml" xref="S4.SS1.p5.2.m2.3.4"><eq id="S4.SS1.p5.2.m2.3.4.1.cmml" xref="S4.SS1.p5.2.m2.3.4.1"></eq><ci id="S4.SS1.p5.2.m2.3.4.2.cmml" xref="S4.SS1.p5.2.m2.3.4.2">𝛾</ci><list id="S4.SS1.p5.2.m2.3.4.3.1.cmml" xref="S4.SS1.p5.2.m2.3.4.3.2"><cn id="S4.SS1.p5.2.m2.1.1.cmml" type="integer" xref="S4.SS1.p5.2.m2.1.1">1</cn><cn id="S4.SS1.p5.2.m2.2.2.cmml" type="float" xref="S4.SS1.p5.2.m2.2.2">1.5</cn><cn id="S4.SS1.p5.2.m2.3.3.cmml" type="integer" xref="S4.SS1.p5.2.m2.3.3">3</cn></list></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p5.2.m2.3c">\gamma=1,1.5,3</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p5.2.m2.3d">italic_γ = 1 , 1.5 , 3</annotation></semantics></math>. The results are shown in Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.F4" title="Figure 4 ‣ 4.1 Synthetic Dataset ‣ 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">4</span></a>. Reassuringly, the level of noise in the data does not affect the epistemic uncertainty. It is possible to argue that the aleatoric and epistemic are still very correlated far from the mode of <math alttext="p(X)" class="ltx_Math" display="inline" id="S4.SS1.p5.3.m3.1"><semantics id="S4.SS1.p5.3.m3.1a"><mrow id="S4.SS1.p5.3.m3.1.2" xref="S4.SS1.p5.3.m3.1.2.cmml"><mi id="S4.SS1.p5.3.m3.1.2.2" xref="S4.SS1.p5.3.m3.1.2.2.cmml">p</mi><mo id="S4.SS1.p5.3.m3.1.2.1" xref="S4.SS1.p5.3.m3.1.2.1.cmml">⁢</mo><mrow id="S4.SS1.p5.3.m3.1.2.3.2" xref="S4.SS1.p5.3.m3.1.2.cmml"><mo id="S4.SS1.p5.3.m3.1.2.3.2.1" stretchy="false" xref="S4.SS1.p5.3.m3.1.2.cmml">(</mo><mi id="S4.SS1.p5.3.m3.1.1" xref="S4.SS1.p5.3.m3.1.1.cmml">X</mi><mo id="S4.SS1.p5.3.m3.1.2.3.2.2" stretchy="false" xref="S4.SS1.p5.3.m3.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS1.p5.3.m3.1b"><apply id="S4.SS1.p5.3.m3.1.2.cmml" xref="S4.SS1.p5.3.m3.1.2"><times id="S4.SS1.p5.3.m3.1.2.1.cmml" xref="S4.SS1.p5.3.m3.1.2.1"></times><ci id="S4.SS1.p5.3.m3.1.2.2.cmml" xref="S4.SS1.p5.3.m3.1.2.2">𝑝</ci><ci id="S4.SS1.p5.3.m3.1.1.cmml" xref="S4.SS1.p5.3.m3.1.1">𝑋</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p5.3.m3.1c">p(X)</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p5.3.m3.1d">italic_p ( italic_X )</annotation></semantics></math>, however the model variance <math alttext="\sigma_{\theta}^{2}" class="ltx_Math" display="inline" id="S4.SS1.p5.4.m4.1"><semantics id="S4.SS1.p5.4.m4.1a"><msubsup id="S4.SS1.p5.4.m4.1.1" xref="S4.SS1.p5.4.m4.1.1.cmml"><mi id="S4.SS1.p5.4.m4.1.1.2.2" xref="S4.SS1.p5.4.m4.1.1.2.2.cmml">σ</mi><mi id="S4.SS1.p5.4.m4.1.1.2.3" xref="S4.SS1.p5.4.m4.1.1.2.3.cmml">θ</mi><mn id="S4.SS1.p5.4.m4.1.1.3" xref="S4.SS1.p5.4.m4.1.1.3.cmml">2</mn></msubsup><annotation-xml encoding="MathML-Content" id="S4.SS1.p5.4.m4.1b"><apply id="S4.SS1.p5.4.m4.1.1.cmml" xref="S4.SS1.p5.4.m4.1.1"><csymbol cd="ambiguous" id="S4.SS1.p5.4.m4.1.1.1.cmml" xref="S4.SS1.p5.4.m4.1.1">superscript</csymbol><apply id="S4.SS1.p5.4.m4.1.1.2.cmml" xref="S4.SS1.p5.4.m4.1.1"><csymbol cd="ambiguous" id="S4.SS1.p5.4.m4.1.1.2.1.cmml" xref="S4.SS1.p5.4.m4.1.1">subscript</csymbol><ci id="S4.SS1.p5.4.m4.1.1.2.2.cmml" xref="S4.SS1.p5.4.m4.1.1.2.2">𝜎</ci><ci id="S4.SS1.p5.4.m4.1.1.2.3.cmml" xref="S4.SS1.p5.4.m4.1.1.2.3">𝜃</ci></apply><cn id="S4.SS1.p5.4.m4.1.1.3.cmml" type="integer" xref="S4.SS1.p5.4.m4.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS1.p5.4.m4.1c">\sigma_{\theta}^{2}</annotation><annotation encoding="application/x-llamapun" id="S4.SS1.p5.4.m4.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math> ceases to be very informative for out-of-distribution samples, and should mostly be discarded.</p> </div> <figure class="ltx_figure" id="S4.F4"><img alt="Refer to caption" class="ltx_graphics ltx_centering ltx_img_landscape" height="160" id="S4.F4.g1" src="x2.png" width="581"/> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 4: </span><span class="ltx_text ltx_font_bold" id="S4.F4.4.2" style="font-size:90%;">Toy model: results for increasing data corruption.<span class="ltx_text ltx_font_medium" id="S4.F4.4.2.2"> Comparison of epistemic and aleatoric uncertainty for different levels of data corruption. The estimation of the epistemic uncertainty <math alttext="\mathrm{cov}_{\theta}" class="ltx_Math" display="inline" id="S4.F4.3.1.1.m1.1"><semantics id="S4.F4.3.1.1.m1.1b"><msub id="S4.F4.3.1.1.m1.1.1" xref="S4.F4.3.1.1.m1.1.1.cmml"><mi id="S4.F4.3.1.1.m1.1.1.2" xref="S4.F4.3.1.1.m1.1.1.2.cmml">cov</mi><mi id="S4.F4.3.1.1.m1.1.1.3" xref="S4.F4.3.1.1.m1.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S4.F4.3.1.1.m1.1c"><apply id="S4.F4.3.1.1.m1.1.1.cmml" xref="S4.F4.3.1.1.m1.1.1"><csymbol cd="ambiguous" id="S4.F4.3.1.1.m1.1.1.1.cmml" xref="S4.F4.3.1.1.m1.1.1">subscript</csymbol><ci id="S4.F4.3.1.1.m1.1.1.2.cmml" xref="S4.F4.3.1.1.m1.1.1.2">cov</ci><ci id="S4.F4.3.1.1.m1.1.1.3.cmml" xref="S4.F4.3.1.1.m1.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.F4.3.1.1.m1.1d">\mathrm{cov}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S4.F4.3.1.1.m1.1e">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> is unaffected by the level of the aleatoric component <math alttext="\sigma" class="ltx_Math" display="inline" id="S4.F4.4.2.2.m2.1"><semantics id="S4.F4.4.2.2.m2.1b"><mi id="S4.F4.4.2.2.m2.1.1" xref="S4.F4.4.2.2.m2.1.1.cmml">σ</mi><annotation-xml encoding="MathML-Content" id="S4.F4.4.2.2.m2.1c"><ci id="S4.F4.4.2.2.m2.1.1.cmml" xref="S4.F4.4.2.2.m2.1.1">𝜎</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.F4.4.2.2.m2.1d">\sigma</annotation><annotation encoding="application/x-llamapun" id="S4.F4.4.2.2.m2.1e">italic_σ</annotation></semantics></math>.</span></span></figcaption> </figure> </section> <section class="ltx_subsection" id="S4.SS2"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">4.2 </span>Aerodynamics of an airfoil</h3> <div class="ltx_para" id="S4.SS2.p1"> <p class="ltx_p" id="S4.SS2.p1.1">Next, this methodology is applied to a real world dataset issued from lift and drag measurements in a low-speed wind tunnel. A model of a NACA0012 airfoil is placed in the test section, and can be rotated with respect to the incoming flow. The angle between the chord of the profile and air speed vector is called angle of attack. Also, the air-speed can be controlled, which changes significantly the types of phenomena that can be observed in the experiment.</p> </div> <div class="ltx_para" id="S4.SS2.p2"> <p class="ltx_p" id="S4.SS2.p2.14">For every flow condition, i.e. a couple <math alttext="(\alpha,U_{\infty})" class="ltx_Math" display="inline" id="S4.SS2.p2.1.m1.2"><semantics id="S4.SS2.p2.1.m1.2a"><mrow id="S4.SS2.p2.1.m1.2.2.1" xref="S4.SS2.p2.1.m1.2.2.2.cmml"><mo id="S4.SS2.p2.1.m1.2.2.1.2" stretchy="false" xref="S4.SS2.p2.1.m1.2.2.2.cmml">(</mo><mi id="S4.SS2.p2.1.m1.1.1" xref="S4.SS2.p2.1.m1.1.1.cmml">α</mi><mo id="S4.SS2.p2.1.m1.2.2.1.3" xref="S4.SS2.p2.1.m1.2.2.2.cmml">,</mo><msub id="S4.SS2.p2.1.m1.2.2.1.1" xref="S4.SS2.p2.1.m1.2.2.1.1.cmml"><mi id="S4.SS2.p2.1.m1.2.2.1.1.2" xref="S4.SS2.p2.1.m1.2.2.1.1.2.cmml">U</mi><mi id="S4.SS2.p2.1.m1.2.2.1.1.3" mathvariant="normal" xref="S4.SS2.p2.1.m1.2.2.1.1.3.cmml">∞</mi></msub><mo id="S4.SS2.p2.1.m1.2.2.1.4" stretchy="false" xref="S4.SS2.p2.1.m1.2.2.2.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.1.m1.2b"><interval closure="open" id="S4.SS2.p2.1.m1.2.2.2.cmml" xref="S4.SS2.p2.1.m1.2.2.1"><ci id="S4.SS2.p2.1.m1.1.1.cmml" xref="S4.SS2.p2.1.m1.1.1">𝛼</ci><apply id="S4.SS2.p2.1.m1.2.2.1.1.cmml" xref="S4.SS2.p2.1.m1.2.2.1.1"><csymbol cd="ambiguous" id="S4.SS2.p2.1.m1.2.2.1.1.1.cmml" xref="S4.SS2.p2.1.m1.2.2.1.1">subscript</csymbol><ci id="S4.SS2.p2.1.m1.2.2.1.1.2.cmml" xref="S4.SS2.p2.1.m1.2.2.1.1.2">𝑈</ci><infinity id="S4.SS2.p2.1.m1.2.2.1.1.3.cmml" xref="S4.SS2.p2.1.m1.2.2.1.1.3"></infinity></apply></interval></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.1.m1.2c">(\alpha,U_{\infty})</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.1.m1.2d">( italic_α , italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT )</annotation></semantics></math>, where <math alttext="\alpha" class="ltx_Math" display="inline" id="S4.SS2.p2.2.m2.1"><semantics id="S4.SS2.p2.2.m2.1a"><mi id="S4.SS2.p2.2.m2.1.1" xref="S4.SS2.p2.2.m2.1.1.cmml">α</mi><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.2.m2.1b"><ci id="S4.SS2.p2.2.m2.1.1.cmml" xref="S4.SS2.p2.2.m2.1.1">𝛼</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.2.m2.1c">\alpha</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.2.m2.1d">italic_α</annotation></semantics></math> is the angle of attack and <math alttext="U_{\infty}" class="ltx_Math" display="inline" id="S4.SS2.p2.3.m3.1"><semantics id="S4.SS2.p2.3.m3.1a"><msub id="S4.SS2.p2.3.m3.1.1" xref="S4.SS2.p2.3.m3.1.1.cmml"><mi id="S4.SS2.p2.3.m3.1.1.2" xref="S4.SS2.p2.3.m3.1.1.2.cmml">U</mi><mi id="S4.SS2.p2.3.m3.1.1.3" mathvariant="normal" xref="S4.SS2.p2.3.m3.1.1.3.cmml">∞</mi></msub><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.3.m3.1b"><apply id="S4.SS2.p2.3.m3.1.1.cmml" xref="S4.SS2.p2.3.m3.1.1"><csymbol cd="ambiguous" id="S4.SS2.p2.3.m3.1.1.1.cmml" xref="S4.SS2.p2.3.m3.1.1">subscript</csymbol><ci id="S4.SS2.p2.3.m3.1.1.2.cmml" xref="S4.SS2.p2.3.m3.1.1.2">𝑈</ci><infinity id="S4.SS2.p2.3.m3.1.1.3.cmml" xref="S4.SS2.p2.3.m3.1.1.3"></infinity></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.3.m3.1c">U_{\infty}</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.3.m3.1d">italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT</annotation></semantics></math> the inflow velocity, 10 seconds of data were collected at 1 kHz of acquisition frequency. This is standard practice to ensure statistical convergence, since each instantaneous measurements vary from one another because of various factors, like the precision of the force balances, turbulence or external disturbances. For each flow condition, 250 points were selected randomly from the time signal of the measurement to represent the first set of outcomes, and other 250 for the second set. In the training set the angle of attack was set <math alttext="\alpha\in[-11^{\circ},11^{\circ}]" class="ltx_Math" display="inline" id="S4.SS2.p2.4.m4.2"><semantics id="S4.SS2.p2.4.m4.2a"><mrow id="S4.SS2.p2.4.m4.2.2" xref="S4.SS2.p2.4.m4.2.2.cmml"><mi id="S4.SS2.p2.4.m4.2.2.4" xref="S4.SS2.p2.4.m4.2.2.4.cmml">α</mi><mo id="S4.SS2.p2.4.m4.2.2.3" xref="S4.SS2.p2.4.m4.2.2.3.cmml">∈</mo><mrow id="S4.SS2.p2.4.m4.2.2.2.2" xref="S4.SS2.p2.4.m4.2.2.2.3.cmml"><mo id="S4.SS2.p2.4.m4.2.2.2.2.3" stretchy="false" xref="S4.SS2.p2.4.m4.2.2.2.3.cmml">[</mo><mrow id="S4.SS2.p2.4.m4.1.1.1.1.1" xref="S4.SS2.p2.4.m4.1.1.1.1.1.cmml"><mo id="S4.SS2.p2.4.m4.1.1.1.1.1a" xref="S4.SS2.p2.4.m4.1.1.1.1.1.cmml">−</mo><msup id="S4.SS2.p2.4.m4.1.1.1.1.1.2" xref="S4.SS2.p2.4.m4.1.1.1.1.1.2.cmml"><mn id="S4.SS2.p2.4.m4.1.1.1.1.1.2.2" xref="S4.SS2.p2.4.m4.1.1.1.1.1.2.2.cmml">11</mn><mo id="S4.SS2.p2.4.m4.1.1.1.1.1.2.3" xref="S4.SS2.p2.4.m4.1.1.1.1.1.2.3.cmml">∘</mo></msup></mrow><mo id="S4.SS2.p2.4.m4.2.2.2.2.4" xref="S4.SS2.p2.4.m4.2.2.2.3.cmml">,</mo><msup id="S4.SS2.p2.4.m4.2.2.2.2.2" xref="S4.SS2.p2.4.m4.2.2.2.2.2.cmml"><mn id="S4.SS2.p2.4.m4.2.2.2.2.2.2" xref="S4.SS2.p2.4.m4.2.2.2.2.2.2.cmml">11</mn><mo id="S4.SS2.p2.4.m4.2.2.2.2.2.3" xref="S4.SS2.p2.4.m4.2.2.2.2.2.3.cmml">∘</mo></msup><mo id="S4.SS2.p2.4.m4.2.2.2.2.5" stretchy="false" xref="S4.SS2.p2.4.m4.2.2.2.3.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.4.m4.2b"><apply id="S4.SS2.p2.4.m4.2.2.cmml" xref="S4.SS2.p2.4.m4.2.2"><in id="S4.SS2.p2.4.m4.2.2.3.cmml" xref="S4.SS2.p2.4.m4.2.2.3"></in><ci id="S4.SS2.p2.4.m4.2.2.4.cmml" xref="S4.SS2.p2.4.m4.2.2.4">𝛼</ci><interval closure="closed" id="S4.SS2.p2.4.m4.2.2.2.3.cmml" xref="S4.SS2.p2.4.m4.2.2.2.2"><apply id="S4.SS2.p2.4.m4.1.1.1.1.1.cmml" xref="S4.SS2.p2.4.m4.1.1.1.1.1"><minus id="S4.SS2.p2.4.m4.1.1.1.1.1.1.cmml" xref="S4.SS2.p2.4.m4.1.1.1.1.1"></minus><apply id="S4.SS2.p2.4.m4.1.1.1.1.1.2.cmml" xref="S4.SS2.p2.4.m4.1.1.1.1.1.2"><csymbol cd="ambiguous" id="S4.SS2.p2.4.m4.1.1.1.1.1.2.1.cmml" xref="S4.SS2.p2.4.m4.1.1.1.1.1.2">superscript</csymbol><cn id="S4.SS2.p2.4.m4.1.1.1.1.1.2.2.cmml" type="integer" xref="S4.SS2.p2.4.m4.1.1.1.1.1.2.2">11</cn><compose id="S4.SS2.p2.4.m4.1.1.1.1.1.2.3.cmml" xref="S4.SS2.p2.4.m4.1.1.1.1.1.2.3"></compose></apply></apply><apply id="S4.SS2.p2.4.m4.2.2.2.2.2.cmml" xref="S4.SS2.p2.4.m4.2.2.2.2.2"><csymbol cd="ambiguous" id="S4.SS2.p2.4.m4.2.2.2.2.2.1.cmml" xref="S4.SS2.p2.4.m4.2.2.2.2.2">superscript</csymbol><cn id="S4.SS2.p2.4.m4.2.2.2.2.2.2.cmml" type="integer" xref="S4.SS2.p2.4.m4.2.2.2.2.2.2">11</cn><compose id="S4.SS2.p2.4.m4.2.2.2.2.2.3.cmml" xref="S4.SS2.p2.4.m4.2.2.2.2.2.3"></compose></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.4.m4.2c">\alpha\in[-11^{\circ},11^{\circ}]</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.4.m4.2d">italic_α ∈ [ - 11 start_POSTSUPERSCRIPT ∘ end_POSTSUPERSCRIPT , 11 start_POSTSUPERSCRIPT ∘ end_POSTSUPERSCRIPT ]</annotation></semantics></math> in increments of 0.5, and four flow speeds, namely <math alttext="U_{\infty}=7.3,9.1,11.9" class="ltx_Math" display="inline" id="S4.SS2.p2.5.m5.3"><semantics id="S4.SS2.p2.5.m5.3a"><mrow id="S4.SS2.p2.5.m5.3.4" xref="S4.SS2.p2.5.m5.3.4.cmml"><msub id="S4.SS2.p2.5.m5.3.4.2" xref="S4.SS2.p2.5.m5.3.4.2.cmml"><mi id="S4.SS2.p2.5.m5.3.4.2.2" xref="S4.SS2.p2.5.m5.3.4.2.2.cmml">U</mi><mi id="S4.SS2.p2.5.m5.3.4.2.3" mathvariant="normal" xref="S4.SS2.p2.5.m5.3.4.2.3.cmml">∞</mi></msub><mo id="S4.SS2.p2.5.m5.3.4.1" xref="S4.SS2.p2.5.m5.3.4.1.cmml">=</mo><mrow id="S4.SS2.p2.5.m5.3.4.3.2" xref="S4.SS2.p2.5.m5.3.4.3.1.cmml"><mn id="S4.SS2.p2.5.m5.1.1" xref="S4.SS2.p2.5.m5.1.1.cmml">7.3</mn><mo id="S4.SS2.p2.5.m5.3.4.3.2.1" xref="S4.SS2.p2.5.m5.3.4.3.1.cmml">,</mo><mn id="S4.SS2.p2.5.m5.2.2" xref="S4.SS2.p2.5.m5.2.2.cmml">9.1</mn><mo id="S4.SS2.p2.5.m5.3.4.3.2.2" xref="S4.SS2.p2.5.m5.3.4.3.1.cmml">,</mo><mn id="S4.SS2.p2.5.m5.3.3" xref="S4.SS2.p2.5.m5.3.3.cmml">11.9</mn></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.5.m5.3b"><apply id="S4.SS2.p2.5.m5.3.4.cmml" xref="S4.SS2.p2.5.m5.3.4"><eq id="S4.SS2.p2.5.m5.3.4.1.cmml" xref="S4.SS2.p2.5.m5.3.4.1"></eq><apply id="S4.SS2.p2.5.m5.3.4.2.cmml" xref="S4.SS2.p2.5.m5.3.4.2"><csymbol cd="ambiguous" id="S4.SS2.p2.5.m5.3.4.2.1.cmml" xref="S4.SS2.p2.5.m5.3.4.2">subscript</csymbol><ci id="S4.SS2.p2.5.m5.3.4.2.2.cmml" xref="S4.SS2.p2.5.m5.3.4.2.2">𝑈</ci><infinity id="S4.SS2.p2.5.m5.3.4.2.3.cmml" xref="S4.SS2.p2.5.m5.3.4.2.3"></infinity></apply><list id="S4.SS2.p2.5.m5.3.4.3.1.cmml" xref="S4.SS2.p2.5.m5.3.4.3.2"><cn id="S4.SS2.p2.5.m5.1.1.cmml" type="float" xref="S4.SS2.p2.5.m5.1.1">7.3</cn><cn id="S4.SS2.p2.5.m5.2.2.cmml" type="float" xref="S4.SS2.p2.5.m5.2.2">9.1</cn><cn id="S4.SS2.p2.5.m5.3.3.cmml" type="float" xref="S4.SS2.p2.5.m5.3.3">11.9</cn></list></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.5.m5.3c">U_{\infty}=7.3,9.1,11.9</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.5.m5.3d">italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT = 7.3 , 9.1 , 11.9</annotation></semantics></math> and <math alttext="14.1" class="ltx_Math" display="inline" id="S4.SS2.p2.6.m6.1"><semantics id="S4.SS2.p2.6.m6.1a"><mn id="S4.SS2.p2.6.m6.1.1" xref="S4.SS2.p2.6.m6.1.1.cmml">14.1</mn><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.6.m6.1b"><cn id="S4.SS2.p2.6.m6.1.1.cmml" type="float" xref="S4.SS2.p2.6.m6.1.1">14.1</cn></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.6.m6.1c">14.1</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.6.m6.1d">14.1</annotation></semantics></math> ms<sup class="ltx_sup" id="S4.SS2.p2.14.1"><span class="ltx_text ltx_font_italic" id="S4.SS2.p2.14.1.1">-1</span></sup>, were also used. For testing, the same range of angles of attack were employed, but at <math alttext="U_{\infty}=4.7" class="ltx_Math" display="inline" id="S4.SS2.p2.8.m8.1"><semantics id="S4.SS2.p2.8.m8.1a"><mrow id="S4.SS2.p2.8.m8.1.1" xref="S4.SS2.p2.8.m8.1.1.cmml"><msub id="S4.SS2.p2.8.m8.1.1.2" xref="S4.SS2.p2.8.m8.1.1.2.cmml"><mi id="S4.SS2.p2.8.m8.1.1.2.2" xref="S4.SS2.p2.8.m8.1.1.2.2.cmml">U</mi><mi id="S4.SS2.p2.8.m8.1.1.2.3" mathvariant="normal" xref="S4.SS2.p2.8.m8.1.1.2.3.cmml">∞</mi></msub><mo id="S4.SS2.p2.8.m8.1.1.1" xref="S4.SS2.p2.8.m8.1.1.1.cmml">=</mo><mn id="S4.SS2.p2.8.m8.1.1.3" xref="S4.SS2.p2.8.m8.1.1.3.cmml">4.7</mn></mrow><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.8.m8.1b"><apply id="S4.SS2.p2.8.m8.1.1.cmml" xref="S4.SS2.p2.8.m8.1.1"><eq id="S4.SS2.p2.8.m8.1.1.1.cmml" xref="S4.SS2.p2.8.m8.1.1.1"></eq><apply id="S4.SS2.p2.8.m8.1.1.2.cmml" xref="S4.SS2.p2.8.m8.1.1.2"><csymbol cd="ambiguous" id="S4.SS2.p2.8.m8.1.1.2.1.cmml" xref="S4.SS2.p2.8.m8.1.1.2">subscript</csymbol><ci id="S4.SS2.p2.8.m8.1.1.2.2.cmml" xref="S4.SS2.p2.8.m8.1.1.2.2">𝑈</ci><infinity id="S4.SS2.p2.8.m8.1.1.2.3.cmml" xref="S4.SS2.p2.8.m8.1.1.2.3"></infinity></apply><cn id="S4.SS2.p2.8.m8.1.1.3.cmml" type="float" xref="S4.SS2.p2.8.m8.1.1.3">4.7</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.8.m8.1c">U_{\infty}=4.7</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.8.m8.1d">italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT = 4.7</annotation></semantics></math> ms<sup class="ltx_sup" id="S4.SS2.p2.14.2"><span class="ltx_text ltx_font_italic" id="S4.SS2.p2.14.2.1">-1</span></sup>. The model architecture is similar to the one used on the previous dataset. As shown in Tab. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.T1" title="Table 1 ‣ 4.2 Aerodynamics of an airfoil ‣ 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">1</span></a>, the covariance is consistently bigger in the test dataset, where <math alttext="U_{\infty}" class="ltx_Math" display="inline" id="S4.SS2.p2.10.m10.1"><semantics id="S4.SS2.p2.10.m10.1a"><msub id="S4.SS2.p2.10.m10.1.1" xref="S4.SS2.p2.10.m10.1.1.cmml"><mi id="S4.SS2.p2.10.m10.1.1.2" xref="S4.SS2.p2.10.m10.1.1.2.cmml">U</mi><mi id="S4.SS2.p2.10.m10.1.1.3" mathvariant="normal" xref="S4.SS2.p2.10.m10.1.1.3.cmml">∞</mi></msub><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.10.m10.1b"><apply id="S4.SS2.p2.10.m10.1.1.cmml" xref="S4.SS2.p2.10.m10.1.1"><csymbol cd="ambiguous" id="S4.SS2.p2.10.m10.1.1.1.cmml" xref="S4.SS2.p2.10.m10.1.1">subscript</csymbol><ci id="S4.SS2.p2.10.m10.1.1.2.cmml" xref="S4.SS2.p2.10.m10.1.1.2">𝑈</ci><infinity id="S4.SS2.p2.10.m10.1.1.3.cmml" xref="S4.SS2.p2.10.m10.1.1.3"></infinity></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.10.m10.1c">U_{\infty}</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.10.m10.1d">italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT</annotation></semantics></math> is smaller than any velocity seen during training, than in the train dataset. Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.F5" title="Figure 5 ‣ 4.2 Aerodynamics of an airfoil ‣ 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">5</span></a> shows the predictions for one in-dataset distribution, at <math alttext="U_{\infty}=14.2" class="ltx_Math" display="inline" id="S4.SS2.p2.11.m11.1"><semantics id="S4.SS2.p2.11.m11.1a"><mrow id="S4.SS2.p2.11.m11.1.1" xref="S4.SS2.p2.11.m11.1.1.cmml"><msub id="S4.SS2.p2.11.m11.1.1.2" xref="S4.SS2.p2.11.m11.1.1.2.cmml"><mi id="S4.SS2.p2.11.m11.1.1.2.2" xref="S4.SS2.p2.11.m11.1.1.2.2.cmml">U</mi><mi id="S4.SS2.p2.11.m11.1.1.2.3" mathvariant="normal" xref="S4.SS2.p2.11.m11.1.1.2.3.cmml">∞</mi></msub><mo id="S4.SS2.p2.11.m11.1.1.1" xref="S4.SS2.p2.11.m11.1.1.1.cmml">=</mo><mn id="S4.SS2.p2.11.m11.1.1.3" xref="S4.SS2.p2.11.m11.1.1.3.cmml">14.2</mn></mrow><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.11.m11.1b"><apply id="S4.SS2.p2.11.m11.1.1.cmml" xref="S4.SS2.p2.11.m11.1.1"><eq id="S4.SS2.p2.11.m11.1.1.1.cmml" xref="S4.SS2.p2.11.m11.1.1.1"></eq><apply id="S4.SS2.p2.11.m11.1.1.2.cmml" xref="S4.SS2.p2.11.m11.1.1.2"><csymbol cd="ambiguous" id="S4.SS2.p2.11.m11.1.1.2.1.cmml" xref="S4.SS2.p2.11.m11.1.1.2">subscript</csymbol><ci id="S4.SS2.p2.11.m11.1.1.2.2.cmml" xref="S4.SS2.p2.11.m11.1.1.2.2">𝑈</ci><infinity id="S4.SS2.p2.11.m11.1.1.2.3.cmml" xref="S4.SS2.p2.11.m11.1.1.2.3"></infinity></apply><cn id="S4.SS2.p2.11.m11.1.1.3.cmml" type="float" xref="S4.SS2.p2.11.m11.1.1.3">14.2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.11.m11.1c">U_{\infty}=14.2</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.11.m11.1d">italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT = 14.2</annotation></semantics></math> ms<sup class="ltx_sup" id="S4.SS2.p2.14.3"><span class="ltx_text ltx_font_italic" id="S4.SS2.p2.14.3.1">-1</span></sup>: the epistemic uncertainty <math alttext="\mathrm{cov}_{\theta}" class="ltx_Math" display="inline" id="S4.SS2.p2.13.m13.1"><semantics id="S4.SS2.p2.13.m13.1a"><msub id="S4.SS2.p2.13.m13.1.1" xref="S4.SS2.p2.13.m13.1.1.cmml"><mi id="S4.SS2.p2.13.m13.1.1.2" xref="S4.SS2.p2.13.m13.1.1.2.cmml">cov</mi><mi id="S4.SS2.p2.13.m13.1.1.3" xref="S4.SS2.p2.13.m13.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.13.m13.1b"><apply id="S4.SS2.p2.13.m13.1.1.cmml" xref="S4.SS2.p2.13.m13.1.1"><csymbol cd="ambiguous" id="S4.SS2.p2.13.m13.1.1.1.cmml" xref="S4.SS2.p2.13.m13.1.1">subscript</csymbol><ci id="S4.SS2.p2.13.m13.1.1.2.cmml" xref="S4.SS2.p2.13.m13.1.1.2">cov</ci><ci id="S4.SS2.p2.13.m13.1.1.3.cmml" xref="S4.SS2.p2.13.m13.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.13.m13.1c">\mathrm{cov}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.13.m13.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> remains small on the entire range of <math alttext="\alpha" class="ltx_Math" display="inline" id="S4.SS2.p2.14.m14.1"><semantics id="S4.SS2.p2.14.m14.1a"><mi id="S4.SS2.p2.14.m14.1.1" xref="S4.SS2.p2.14.m14.1.1.cmml">α</mi><annotation-xml encoding="MathML-Content" id="S4.SS2.p2.14.m14.1b"><ci id="S4.SS2.p2.14.m14.1.1.cmml" xref="S4.SS2.p2.14.m14.1.1">𝛼</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.SS2.p2.14.m14.1c">\alpha</annotation><annotation encoding="application/x-llamapun" id="S4.SS2.p2.14.m14.1d">italic_α</annotation></semantics></math> seen during training, and starts growing outside of this range.</p> </div> <figure class="ltx_table" id="S4.T1"> <figcaption class="ltx_caption"><span class="ltx_tag ltx_tag_table">Table 1: </span>Overview of the results of the airfoil experiment. Results are averaged over 5 runs.</figcaption> <br class="ltx_break"/> <table class="ltx_tabular ltx_centering ltx_guessed_headers ltx_align_middle" id="S4.T1.5"> <tbody class="ltx_tbody"> <tr class="ltx_tr" id="S4.T1.5.6.1"> <td class="ltx_td ltx_border_tt" id="S4.T1.5.6.1.1"></td> <th class="ltx_td ltx_align_center ltx_th ltx_th_column ltx_border_tt" id="S4.T1.5.6.1.2"><span class="ltx_text" id="S4.T1.5.6.1.2.1" style="font-size:90%;">Train</span></th> <th class="ltx_td ltx_align_center ltx_th ltx_th_column ltx_border_tt" id="S4.T1.5.6.1.3"><span class="ltx_text" id="S4.T1.5.6.1.3.1" style="font-size:90%;">Test</span></th> <th class="ltx_td ltx_align_center ltx_th ltx_th_column ltx_border_tt" id="S4.T1.5.6.1.4"><span class="ltx_text" id="S4.T1.5.6.1.4.1" style="font-size:90%;">Difference</span></th> </tr> <tr class="ltx_tr" id="S4.T1.5.7.2"> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T1.5.7.2.1" rowspan="2"><span class="ltx_text" id="S4.T1.5.7.2.1.1" style="font-size:90%;">R2</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T1.5.7.2.2"><span class="ltx_text" id="S4.T1.5.7.2.2.1" style="font-size:90%;">0.99</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T1.5.7.2.3"><span class="ltx_text" id="S4.T1.5.7.2.3.1" style="font-size:90%;">0.83</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T1.5.7.2.4" rowspan="2"><span class="ltx_text" id="S4.T1.5.7.2.4.1" style="font-size:90%;">-15.8%</span></td> </tr> <tr class="ltx_tr" id="S4.T1.2.2"> <td class="ltx_td ltx_align_center" id="S4.T1.1.1.1"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T1.1.1.1.m1.1"><semantics id="S4.T1.1.1.1.m1.1a"><mo id="S4.T1.1.1.1.m1.1.1" mathsize="90%" xref="S4.T1.1.1.1.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T1.1.1.1.m1.1b"><csymbol cd="latexml" id="S4.T1.1.1.1.m1.1.1.cmml" xref="S4.T1.1.1.1.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T1.1.1.1.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T1.1.1.1.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T1.1.1.1.1" style="font-size:90%;">0.00</span> </td> <td class="ltx_td ltx_align_center" id="S4.T1.2.2.2"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T1.2.2.2.m1.1"><semantics id="S4.T1.2.2.2.m1.1a"><mo id="S4.T1.2.2.2.m1.1.1" mathsize="90%" xref="S4.T1.2.2.2.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T1.2.2.2.m1.1b"><csymbol cd="latexml" id="S4.T1.2.2.2.m1.1.1.cmml" xref="S4.T1.2.2.2.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T1.2.2.2.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T1.2.2.2.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T1.2.2.2.1" style="font-size:90%;">0.04</span> </td> </tr> <tr class="ltx_tr" id="S4.T1.3.3"> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T1.3.3.1" rowspan="2"><span class="ltx_text" id="S4.T1.3.3.1.1" style="font-size:90%;"><math alttext="\mathbb{E}[|\mathrm{cov}_{\theta}|]\;(\times 10^{-2})" class="ltx_math_unparsed" display="inline" id="S4.T1.3.3.1.1.m1.1"><semantics id="S4.T1.3.3.1.1.m1.1a"><mrow id="S4.T1.3.3.1.1.m1.1b"><mi id="S4.T1.3.3.1.1.m1.1.1">𝔼</mi><mrow id="S4.T1.3.3.1.1.m1.1.2"><mo id="S4.T1.3.3.1.1.m1.1.2.1" stretchy="false">[</mo><mo fence="false" id="S4.T1.3.3.1.1.m1.1.2.2" rspace="0.167em" stretchy="false">|</mo><msub id="S4.T1.3.3.1.1.m1.1.2.3"><mi id="S4.T1.3.3.1.1.m1.1.2.3.2">cov</mi><mi id="S4.T1.3.3.1.1.m1.1.2.3.3">θ</mi></msub><mo fence="false" id="S4.T1.3.3.1.1.m1.1.2.4" rspace="0.167em" stretchy="false">|</mo><mo id="S4.T1.3.3.1.1.m1.1.2.5" rspace="0.280em" stretchy="false">]</mo></mrow><mrow id="S4.T1.3.3.1.1.m1.1.3"><mo id="S4.T1.3.3.1.1.m1.1.3.1" stretchy="false">(</mo><mo id="S4.T1.3.3.1.1.m1.1.3.2" lspace="0em" rspace="0.222em">×</mo><msup id="S4.T1.3.3.1.1.m1.1.3.3"><mn id="S4.T1.3.3.1.1.m1.1.3.3.2">10</mn><mrow id="S4.T1.3.3.1.1.m1.1.3.3.3"><mo id="S4.T1.3.3.1.1.m1.1.3.3.3a">−</mo><mn id="S4.T1.3.3.1.1.m1.1.3.3.3.2">2</mn></mrow></msup><mo id="S4.T1.3.3.1.1.m1.1.3.4" stretchy="false">)</mo></mrow></mrow><annotation encoding="application/x-tex" id="S4.T1.3.3.1.1.m1.1c">\mathbb{E}[|\mathrm{cov}_{\theta}|]\;(\times 10^{-2})</annotation><annotation encoding="application/x-llamapun" id="S4.T1.3.3.1.1.m1.1d">blackboard_E [ | roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT | ] ( × 10 start_POSTSUPERSCRIPT - 2 end_POSTSUPERSCRIPT )</annotation></semantics></math></span></td> <td class="ltx_td ltx_align_center" id="S4.T1.3.3.2"><span class="ltx_text" id="S4.T1.3.3.2.1" style="font-size:90%;">0.09</span></td> <td class="ltx_td ltx_align_center" id="S4.T1.3.3.3"><span class="ltx_text" id="S4.T1.3.3.3.1" style="font-size:90%;">1.17</span></td> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T1.3.3.4" rowspan="2"><span class="ltx_text" id="S4.T1.3.3.4.1" style="font-size:90%;">+1140%</span></td> </tr> <tr class="ltx_tr" id="S4.T1.5.5"> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T1.4.4.1"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T1.4.4.1.m1.1"><semantics id="S4.T1.4.4.1.m1.1a"><mo id="S4.T1.4.4.1.m1.1.1" mathsize="90%" xref="S4.T1.4.4.1.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T1.4.4.1.m1.1b"><csymbol cd="latexml" id="S4.T1.4.4.1.m1.1.1.cmml" xref="S4.T1.4.4.1.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T1.4.4.1.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T1.4.4.1.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T1.4.4.1.1" style="font-size:90%;">0.02</span> </td> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T1.5.5.2"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T1.5.5.2.m1.1"><semantics id="S4.T1.5.5.2.m1.1a"><mo id="S4.T1.5.5.2.m1.1.1" mathsize="90%" xref="S4.T1.5.5.2.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T1.5.5.2.m1.1b"><csymbol cd="latexml" id="S4.T1.5.5.2.m1.1.1.cmml" xref="S4.T1.5.5.2.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T1.5.5.2.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T1.5.5.2.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T1.5.5.2.1" style="font-size:90%;">0.98</span> </td> </tr> </tbody> </table> </figure> <figure class="ltx_figure" id="S4.F5"><img alt="Refer to caption" class="ltx_graphics ltx_centering ltx_img_landscape" height="467" id="S4.F5.g1" src="x3.png" width="747"/> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 5: </span><span class="ltx_text ltx_font_bold" id="S4.F5.10.5" style="font-size:90%;">Airfoil aerodynamics: result of in-dataset sample.<span class="ltx_text ltx_font_medium" id="S4.F5.10.5.5"> The figure shows the prediction of the model on one of the in-dataset velocities. Both the mean and the variance are well captured. Shaded areas represent the <math alttext="\sigma" class="ltx_Math" display="inline" id="S4.F5.6.1.1.m1.1"><semantics id="S4.F5.6.1.1.m1.1b"><mi id="S4.F5.6.1.1.m1.1.1" xref="S4.F5.6.1.1.m1.1.1.cmml">σ</mi><annotation-xml encoding="MathML-Content" id="S4.F5.6.1.1.m1.1c"><ci id="S4.F5.6.1.1.m1.1.1.cmml" xref="S4.F5.6.1.1.m1.1.1">𝜎</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.F5.6.1.1.m1.1d">\sigma</annotation><annotation encoding="application/x-llamapun" id="S4.F5.6.1.1.m1.1e">italic_σ</annotation></semantics></math>, <math alttext="2\sigma" class="ltx_Math" display="inline" id="S4.F5.7.2.2.m2.1"><semantics id="S4.F5.7.2.2.m2.1b"><mrow id="S4.F5.7.2.2.m2.1.1" xref="S4.F5.7.2.2.m2.1.1.cmml"><mn id="S4.F5.7.2.2.m2.1.1.2" xref="S4.F5.7.2.2.m2.1.1.2.cmml">2</mn><mo id="S4.F5.7.2.2.m2.1.1.1" xref="S4.F5.7.2.2.m2.1.1.1.cmml">⁢</mo><mi id="S4.F5.7.2.2.m2.1.1.3" xref="S4.F5.7.2.2.m2.1.1.3.cmml">σ</mi></mrow><annotation-xml encoding="MathML-Content" id="S4.F5.7.2.2.m2.1c"><apply id="S4.F5.7.2.2.m2.1.1.cmml" xref="S4.F5.7.2.2.m2.1.1"><times id="S4.F5.7.2.2.m2.1.1.1.cmml" xref="S4.F5.7.2.2.m2.1.1.1"></times><cn id="S4.F5.7.2.2.m2.1.1.2.cmml" type="integer" xref="S4.F5.7.2.2.m2.1.1.2">2</cn><ci id="S4.F5.7.2.2.m2.1.1.3.cmml" xref="S4.F5.7.2.2.m2.1.1.3">𝜎</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.F5.7.2.2.m2.1d">2\sigma</annotation><annotation encoding="application/x-llamapun" id="S4.F5.7.2.2.m2.1e">2 italic_σ</annotation></semantics></math> and <math alttext="3\sigma" class="ltx_Math" display="inline" id="S4.F5.8.3.3.m3.1"><semantics id="S4.F5.8.3.3.m3.1b"><mrow id="S4.F5.8.3.3.m3.1.1" xref="S4.F5.8.3.3.m3.1.1.cmml"><mn id="S4.F5.8.3.3.m3.1.1.2" xref="S4.F5.8.3.3.m3.1.1.2.cmml">3</mn><mo id="S4.F5.8.3.3.m3.1.1.1" xref="S4.F5.8.3.3.m3.1.1.1.cmml">⁢</mo><mi id="S4.F5.8.3.3.m3.1.1.3" xref="S4.F5.8.3.3.m3.1.1.3.cmml">σ</mi></mrow><annotation-xml encoding="MathML-Content" id="S4.F5.8.3.3.m3.1c"><apply id="S4.F5.8.3.3.m3.1.1.cmml" xref="S4.F5.8.3.3.m3.1.1"><times id="S4.F5.8.3.3.m3.1.1.1.cmml" xref="S4.F5.8.3.3.m3.1.1.1"></times><cn id="S4.F5.8.3.3.m3.1.1.2.cmml" type="integer" xref="S4.F5.8.3.3.m3.1.1.2">3</cn><ci id="S4.F5.8.3.3.m3.1.1.3.cmml" xref="S4.F5.8.3.3.m3.1.1.3">𝜎</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.F5.8.3.3.m3.1d">3\sigma</annotation><annotation encoding="application/x-llamapun" id="S4.F5.8.3.3.m3.1e">3 italic_σ</annotation></semantics></math> confidence intervals given by the total uncertainty <math alttext="\sigma_{\theta}" class="ltx_Math" display="inline" id="S4.F5.9.4.4.m4.1"><semantics id="S4.F5.9.4.4.m4.1b"><msub id="S4.F5.9.4.4.m4.1.1" xref="S4.F5.9.4.4.m4.1.1.cmml"><mi id="S4.F5.9.4.4.m4.1.1.2" xref="S4.F5.9.4.4.m4.1.1.2.cmml">σ</mi><mi id="S4.F5.9.4.4.m4.1.1.3" xref="S4.F5.9.4.4.m4.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="S4.F5.9.4.4.m4.1c"><apply id="S4.F5.9.4.4.m4.1.1.cmml" xref="S4.F5.9.4.4.m4.1.1"><csymbol cd="ambiguous" id="S4.F5.9.4.4.m4.1.1.1.cmml" xref="S4.F5.9.4.4.m4.1.1">subscript</csymbol><ci id="S4.F5.9.4.4.m4.1.1.2.cmml" xref="S4.F5.9.4.4.m4.1.1.2">𝜎</ci><ci id="S4.F5.9.4.4.m4.1.1.3.cmml" xref="S4.F5.9.4.4.m4.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.F5.9.4.4.m4.1d">\sigma_{\theta}</annotation><annotation encoding="application/x-llamapun" id="S4.F5.9.4.4.m4.1e">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math>. The epistemic covariance remains small in the range of <math alttext="\alpha" class="ltx_Math" display="inline" id="S4.F5.10.5.5.m5.1"><semantics id="S4.F5.10.5.5.m5.1b"><mi id="S4.F5.10.5.5.m5.1.1" xref="S4.F5.10.5.5.m5.1.1.cmml">α</mi><annotation-xml encoding="MathML-Content" id="S4.F5.10.5.5.m5.1c"><ci id="S4.F5.10.5.5.m5.1.1.cmml" xref="S4.F5.10.5.5.m5.1.1">𝛼</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.F5.10.5.5.m5.1d">\alpha</annotation><annotation encoding="application/x-llamapun" id="S4.F5.10.5.5.m5.1e">italic_α</annotation></semantics></math> seen during training, and grows rapidly outside of it.</span></span></figcaption> </figure> </section> <section class="ltx_subsection" id="S4.SS3"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">4.3 </span>Drone noise</h3> <div class="ltx_para" id="S4.SS3.p1"> <p class="ltx_p" id="S4.SS3.p1.7">As a last dataset, the drone noise measurements performed by <cite class="ltx_cite ltx_citemacro_citep">(Gojon et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib5" title="">2021</a>)</cite>, and available on the Dataverse <cite class="ltx_cite ltx_citemacro_citep">(King, <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib8" title="">2007</a>)</cite>, are presented. For the purposes of the present work, only the propellers ISAE propellers with 2 to 5 blades are retained. The experimental conditions are then given by three parameters: the number of blades <math alttext="n" class="ltx_Math" display="inline" id="S4.SS3.p1.1.m1.1"><semantics id="S4.SS3.p1.1.m1.1a"><mi id="S4.SS3.p1.1.m1.1.1" xref="S4.SS3.p1.1.m1.1.1.cmml">n</mi><annotation-xml encoding="MathML-Content" id="S4.SS3.p1.1.m1.1b"><ci id="S4.SS3.p1.1.m1.1.1.cmml" xref="S4.SS3.p1.1.m1.1.1">𝑛</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.SS3.p1.1.m1.1c">n</annotation><annotation encoding="application/x-llamapun" id="S4.SS3.p1.1.m1.1d">italic_n</annotation></semantics></math>, the rotational speed <math alttext="\Omega" class="ltx_Math" display="inline" id="S4.SS3.p1.2.m2.1"><semantics id="S4.SS3.p1.2.m2.1a"><mi id="S4.SS3.p1.2.m2.1.1" mathvariant="normal" xref="S4.SS3.p1.2.m2.1.1.cmml">Ω</mi><annotation-xml encoding="MathML-Content" id="S4.SS3.p1.2.m2.1b"><ci id="S4.SS3.p1.2.m2.1.1.cmml" xref="S4.SS3.p1.2.m2.1.1">Ω</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.SS3.p1.2.m2.1c">\Omega</annotation><annotation encoding="application/x-llamapun" id="S4.SS3.p1.2.m2.1d">roman_Ω</annotation></semantics></math> and the angle of the receiving microphone with respect to the rotor plane <math alttext="\vartheta" class="ltx_Math" display="inline" id="S4.SS3.p1.3.m3.1"><semantics id="S4.SS3.p1.3.m3.1a"><mi id="S4.SS3.p1.3.m3.1.1" xref="S4.SS3.p1.3.m3.1.1.cmml">ϑ</mi><annotation-xml encoding="MathML-Content" id="S4.SS3.p1.3.m3.1b"><ci id="S4.SS3.p1.3.m3.1.1.cmml" xref="S4.SS3.p1.3.m3.1.1">italic-ϑ</ci></annotation-xml><annotation encoding="application/x-tex" id="S4.SS3.p1.3.m3.1c">\vartheta</annotation><annotation encoding="application/x-llamapun" id="S4.SS3.p1.3.m3.1d">italic_ϑ</annotation></semantics></math>. In total, this results in 780 configurations. The predicted quantities are the amplitudes of five peaks on the noise spectrum, corresponding to the first harmonics of the blade passing frequency (BPF) <math alttext="m\cdot\mathrm{BPF}=m\cdot n\Omega" class="ltx_Math" display="inline" id="S4.SS3.p1.4.m4.1"><semantics id="S4.SS3.p1.4.m4.1a"><mrow id="S4.SS3.p1.4.m4.1.1" xref="S4.SS3.p1.4.m4.1.1.cmml"><mrow id="S4.SS3.p1.4.m4.1.1.2" xref="S4.SS3.p1.4.m4.1.1.2.cmml"><mi id="S4.SS3.p1.4.m4.1.1.2.2" xref="S4.SS3.p1.4.m4.1.1.2.2.cmml">m</mi><mo id="S4.SS3.p1.4.m4.1.1.2.1" lspace="0.222em" rspace="0.222em" xref="S4.SS3.p1.4.m4.1.1.2.1.cmml">⋅</mo><mi id="S4.SS3.p1.4.m4.1.1.2.3" xref="S4.SS3.p1.4.m4.1.1.2.3.cmml">BPF</mi></mrow><mo id="S4.SS3.p1.4.m4.1.1.1" xref="S4.SS3.p1.4.m4.1.1.1.cmml">=</mo><mrow id="S4.SS3.p1.4.m4.1.1.3" xref="S4.SS3.p1.4.m4.1.1.3.cmml"><mrow id="S4.SS3.p1.4.m4.1.1.3.2" xref="S4.SS3.p1.4.m4.1.1.3.2.cmml"><mi id="S4.SS3.p1.4.m4.1.1.3.2.2" xref="S4.SS3.p1.4.m4.1.1.3.2.2.cmml">m</mi><mo id="S4.SS3.p1.4.m4.1.1.3.2.1" lspace="0.222em" rspace="0.222em" xref="S4.SS3.p1.4.m4.1.1.3.2.1.cmml">⋅</mo><mi id="S4.SS3.p1.4.m4.1.1.3.2.3" xref="S4.SS3.p1.4.m4.1.1.3.2.3.cmml">n</mi></mrow><mo id="S4.SS3.p1.4.m4.1.1.3.1" xref="S4.SS3.p1.4.m4.1.1.3.1.cmml">⁢</mo><mi id="S4.SS3.p1.4.m4.1.1.3.3" mathvariant="normal" xref="S4.SS3.p1.4.m4.1.1.3.3.cmml">Ω</mi></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS3.p1.4.m4.1b"><apply id="S4.SS3.p1.4.m4.1.1.cmml" xref="S4.SS3.p1.4.m4.1.1"><eq id="S4.SS3.p1.4.m4.1.1.1.cmml" xref="S4.SS3.p1.4.m4.1.1.1"></eq><apply id="S4.SS3.p1.4.m4.1.1.2.cmml" xref="S4.SS3.p1.4.m4.1.1.2"><ci id="S4.SS3.p1.4.m4.1.1.2.1.cmml" xref="S4.SS3.p1.4.m4.1.1.2.1">⋅</ci><ci id="S4.SS3.p1.4.m4.1.1.2.2.cmml" xref="S4.SS3.p1.4.m4.1.1.2.2">𝑚</ci><ci id="S4.SS3.p1.4.m4.1.1.2.3.cmml" xref="S4.SS3.p1.4.m4.1.1.2.3">BPF</ci></apply><apply id="S4.SS3.p1.4.m4.1.1.3.cmml" xref="S4.SS3.p1.4.m4.1.1.3"><times id="S4.SS3.p1.4.m4.1.1.3.1.cmml" xref="S4.SS3.p1.4.m4.1.1.3.1"></times><apply id="S4.SS3.p1.4.m4.1.1.3.2.cmml" xref="S4.SS3.p1.4.m4.1.1.3.2"><ci id="S4.SS3.p1.4.m4.1.1.3.2.1.cmml" xref="S4.SS3.p1.4.m4.1.1.3.2.1">⋅</ci><ci id="S4.SS3.p1.4.m4.1.1.3.2.2.cmml" xref="S4.SS3.p1.4.m4.1.1.3.2.2">𝑚</ci><ci id="S4.SS3.p1.4.m4.1.1.3.2.3.cmml" xref="S4.SS3.p1.4.m4.1.1.3.2.3">𝑛</ci></apply><ci id="S4.SS3.p1.4.m4.1.1.3.3.cmml" xref="S4.SS3.p1.4.m4.1.1.3.3">Ω</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS3.p1.4.m4.1c">m\cdot\mathrm{BPF}=m\cdot n\Omega</annotation><annotation encoding="application/x-llamapun" id="S4.SS3.p1.4.m4.1d">italic_m ⋅ roman_BPF = italic_m ⋅ italic_n roman_Ω</annotation></semantics></math>, with <math alttext="m=1,\dots,5" class="ltx_Math" display="inline" id="S4.SS3.p1.5.m5.3"><semantics id="S4.SS3.p1.5.m5.3a"><mrow id="S4.SS3.p1.5.m5.3.4" xref="S4.SS3.p1.5.m5.3.4.cmml"><mi id="S4.SS3.p1.5.m5.3.4.2" xref="S4.SS3.p1.5.m5.3.4.2.cmml">m</mi><mo id="S4.SS3.p1.5.m5.3.4.1" xref="S4.SS3.p1.5.m5.3.4.1.cmml">=</mo><mrow id="S4.SS3.p1.5.m5.3.4.3.2" xref="S4.SS3.p1.5.m5.3.4.3.1.cmml"><mn id="S4.SS3.p1.5.m5.1.1" xref="S4.SS3.p1.5.m5.1.1.cmml">1</mn><mo id="S4.SS3.p1.5.m5.3.4.3.2.1" xref="S4.SS3.p1.5.m5.3.4.3.1.cmml">,</mo><mi id="S4.SS3.p1.5.m5.2.2" mathvariant="normal" xref="S4.SS3.p1.5.m5.2.2.cmml">…</mi><mo id="S4.SS3.p1.5.m5.3.4.3.2.2" xref="S4.SS3.p1.5.m5.3.4.3.1.cmml">,</mo><mn id="S4.SS3.p1.5.m5.3.3" xref="S4.SS3.p1.5.m5.3.3.cmml">5</mn></mrow></mrow><annotation-xml encoding="MathML-Content" id="S4.SS3.p1.5.m5.3b"><apply id="S4.SS3.p1.5.m5.3.4.cmml" xref="S4.SS3.p1.5.m5.3.4"><eq id="S4.SS3.p1.5.m5.3.4.1.cmml" xref="S4.SS3.p1.5.m5.3.4.1"></eq><ci id="S4.SS3.p1.5.m5.3.4.2.cmml" xref="S4.SS3.p1.5.m5.3.4.2">𝑚</ci><list id="S4.SS3.p1.5.m5.3.4.3.1.cmml" xref="S4.SS3.p1.5.m5.3.4.3.2"><cn id="S4.SS3.p1.5.m5.1.1.cmml" type="integer" xref="S4.SS3.p1.5.m5.1.1">1</cn><ci id="S4.SS3.p1.5.m5.2.2.cmml" xref="S4.SS3.p1.5.m5.2.2">…</ci><cn id="S4.SS3.p1.5.m5.3.3.cmml" type="integer" xref="S4.SS3.p1.5.m5.3.3">5</cn></list></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS3.p1.5.m5.3c">m=1,\dots,5</annotation><annotation encoding="application/x-llamapun" id="S4.SS3.p1.5.m5.3d">italic_m = 1 , … , 5</annotation></semantics></math>. These are quantities of interest because they make up the most disturbing components of the sound for the human ears. The raw microphone data is made up of long time recordings of the far-field acoustic pressure fluctuations. To achieve a dataset made of triplets, all time series are split in two parts which, supposing the process to be ergodic, can be considered as two realizations of the experiment. Both are then processed with a Fast Fourier Transform to extract the amplitudes of the first emerging peaks. The train-test split is performed as follows: in a first run, the test dataset is composed of all the data concerning the propeller with <math alttext="n=3" class="ltx_Math" display="inline" id="S4.SS3.p1.6.m6.1"><semantics id="S4.SS3.p1.6.m6.1a"><mrow id="S4.SS3.p1.6.m6.1.1" xref="S4.SS3.p1.6.m6.1.1.cmml"><mi id="S4.SS3.p1.6.m6.1.1.2" xref="S4.SS3.p1.6.m6.1.1.2.cmml">n</mi><mo id="S4.SS3.p1.6.m6.1.1.1" xref="S4.SS3.p1.6.m6.1.1.1.cmml">=</mo><mn id="S4.SS3.p1.6.m6.1.1.3" xref="S4.SS3.p1.6.m6.1.1.3.cmml">3</mn></mrow><annotation-xml encoding="MathML-Content" id="S4.SS3.p1.6.m6.1b"><apply id="S4.SS3.p1.6.m6.1.1.cmml" xref="S4.SS3.p1.6.m6.1.1"><eq id="S4.SS3.p1.6.m6.1.1.1.cmml" xref="S4.SS3.p1.6.m6.1.1.1"></eq><ci id="S4.SS3.p1.6.m6.1.1.2.cmml" xref="S4.SS3.p1.6.m6.1.1.2">𝑛</ci><cn id="S4.SS3.p1.6.m6.1.1.3.cmml" type="integer" xref="S4.SS3.p1.6.m6.1.1.3">3</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS3.p1.6.m6.1c">n=3</annotation><annotation encoding="application/x-llamapun" id="S4.SS3.p1.6.m6.1d">italic_n = 3</annotation></semantics></math> blades, whereas in a second one the testing is performed on the two-blades rotor. The results in terms of correlation coefficient and epistemic uncertainty are resumed in Tab. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.T2" title="Table 2 ‣ 4.3 Drone noise ‣ 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2</span></a>. In particular, note that the epistemic uncertainty is consistently bigger in the test set, but the gap is smaller if the held-out data is found “in-between” other data-points, where the model is supposed to generalize better. Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S4.F6" title="Figure 6 ‣ 4.3 Drone noise ‣ 4 Validation ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">6</span></a> shows a test sample for the three-bladed rotor at <math alttext="\Omega=5000" class="ltx_Math" display="inline" id="S4.SS3.p1.7.m7.1"><semantics id="S4.SS3.p1.7.m7.1a"><mrow id="S4.SS3.p1.7.m7.1.1" xref="S4.SS3.p1.7.m7.1.1.cmml"><mi id="S4.SS3.p1.7.m7.1.1.2" mathvariant="normal" xref="S4.SS3.p1.7.m7.1.1.2.cmml">Ω</mi><mo id="S4.SS3.p1.7.m7.1.1.1" xref="S4.SS3.p1.7.m7.1.1.1.cmml">=</mo><mn id="S4.SS3.p1.7.m7.1.1.3" xref="S4.SS3.p1.7.m7.1.1.3.cmml">5000</mn></mrow><annotation-xml encoding="MathML-Content" id="S4.SS3.p1.7.m7.1b"><apply id="S4.SS3.p1.7.m7.1.1.cmml" xref="S4.SS3.p1.7.m7.1.1"><eq id="S4.SS3.p1.7.m7.1.1.1.cmml" xref="S4.SS3.p1.7.m7.1.1.1"></eq><ci id="S4.SS3.p1.7.m7.1.1.2.cmml" xref="S4.SS3.p1.7.m7.1.1.2">Ω</ci><cn id="S4.SS3.p1.7.m7.1.1.3.cmml" type="integer" xref="S4.SS3.p1.7.m7.1.1.3">5000</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.SS3.p1.7.m7.1c">\Omega=5000</annotation><annotation encoding="application/x-llamapun" id="S4.SS3.p1.7.m7.1d">roman_Ω = 5000</annotation></semantics></math> rpm, at three times the BPF, to illustrate this concept.</p> </div> <figure class="ltx_table" id="S4.T2"> <figcaption class="ltx_caption"><span class="ltx_tag ltx_tag_table">Table 2: </span>Accuracy and predicted epistemic uncertainty for the train-test split using the two and the three-bladed rotors. All results are given in standardized units and averaged over 5 runs.</figcaption> <br class="ltx_break"/> <table class="ltx_tabular ltx_centering ltx_guessed_headers ltx_align_middle" id="S4.T2.10"> <tbody class="ltx_tbody"> <tr class="ltx_tr" id="S4.T2.10.11.1"> <td class="ltx_td ltx_border_tt" id="S4.T2.10.11.1.1"></td> <th class="ltx_td ltx_align_center ltx_th ltx_th_column ltx_border_tt" id="S4.T2.10.11.1.2"><span class="ltx_text" id="S4.T2.10.11.1.2.1" style="font-size:90%;">Train</span></th> <th class="ltx_td ltx_align_center ltx_th ltx_th_column ltx_border_tt" id="S4.T2.10.11.1.3"><span class="ltx_text" id="S4.T2.10.11.1.3.1" style="font-size:90%;">Test</span></th> <th class="ltx_td ltx_align_center ltx_th ltx_th_column ltx_border_tt" id="S4.T2.10.11.1.4"><span class="ltx_text" id="S4.T2.10.11.1.4.1" style="font-size:90%;">Difference</span></th> </tr> <tr class="ltx_tr" id="S4.T2.10.12.2"> <th class="ltx_td ltx_align_center ltx_th ltx_th_column ltx_border_t" colspan="4" id="S4.T2.10.12.2.1"><span class="ltx_text ltx_font_italic" id="S4.T2.10.12.2.1.1" style="font-size:90%;">2-blades</span></th> </tr> <tr class="ltx_tr" id="S4.T2.10.13.3"> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.13.3.1" rowspan="2"><span class="ltx_text" id="S4.T2.10.13.3.1.1" style="font-size:90%;">R2 score</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.13.3.2"><span class="ltx_text" id="S4.T2.10.13.3.2.1" style="font-size:90%;">0.97</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.13.3.3"><span class="ltx_text" id="S4.T2.10.13.3.3.1" style="font-size:90%;">0.77</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.13.3.4" rowspan="2"><span class="ltx_text" id="S4.T2.10.13.3.4.1" style="font-size:90%;">-20%</span></td> </tr> <tr class="ltx_tr" id="S4.T2.2.2"> <td class="ltx_td ltx_align_center" id="S4.T2.1.1.1"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.1.1.1.m1.1"><semantics id="S4.T2.1.1.1.m1.1a"><mo id="S4.T2.1.1.1.m1.1.1" mathsize="90%" xref="S4.T2.1.1.1.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.1.1.1.m1.1b"><csymbol cd="latexml" id="S4.T2.1.1.1.m1.1.1.cmml" xref="S4.T2.1.1.1.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.1.1.1.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.1.1.1.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.1.1.1.1" style="font-size:90%;">0.00</span> </td> <td class="ltx_td ltx_align_center" id="S4.T2.2.2.2"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.2.2.2.m1.1"><semantics id="S4.T2.2.2.2.m1.1a"><mo id="S4.T2.2.2.2.m1.1.1" mathsize="90%" xref="S4.T2.2.2.2.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.2.2.2.m1.1b"><csymbol cd="latexml" id="S4.T2.2.2.2.m1.1.1.cmml" xref="S4.T2.2.2.2.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.2.2.2.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.2.2.2.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.2.2.2.1" style="font-size:90%;">0.02</span> </td> </tr> <tr class="ltx_tr" id="S4.T2.3.3"> <td class="ltx_td ltx_align_center" id="S4.T2.3.3.1" rowspan="2"><span class="ltx_text" id="S4.T2.3.3.1.1" style="font-size:90%;"><math alttext="\mathbb{E}[|\mathrm{cov}_{\theta}|]\;(\times 10^{-2})" class="ltx_math_unparsed" display="inline" id="S4.T2.3.3.1.1.m1.1"><semantics id="S4.T2.3.3.1.1.m1.1a"><mrow id="S4.T2.3.3.1.1.m1.1b"><mi id="S4.T2.3.3.1.1.m1.1.1">𝔼</mi><mrow id="S4.T2.3.3.1.1.m1.1.2"><mo id="S4.T2.3.3.1.1.m1.1.2.1" stretchy="false">[</mo><mo fence="false" id="S4.T2.3.3.1.1.m1.1.2.2" rspace="0.167em" stretchy="false">|</mo><msub id="S4.T2.3.3.1.1.m1.1.2.3"><mi id="S4.T2.3.3.1.1.m1.1.2.3.2">cov</mi><mi id="S4.T2.3.3.1.1.m1.1.2.3.3">θ</mi></msub><mo fence="false" id="S4.T2.3.3.1.1.m1.1.2.4" rspace="0.167em" stretchy="false">|</mo><mo id="S4.T2.3.3.1.1.m1.1.2.5" rspace="0.280em" stretchy="false">]</mo></mrow><mrow id="S4.T2.3.3.1.1.m1.1.3"><mo id="S4.T2.3.3.1.1.m1.1.3.1" stretchy="false">(</mo><mo id="S4.T2.3.3.1.1.m1.1.3.2" lspace="0em" rspace="0.222em">×</mo><msup id="S4.T2.3.3.1.1.m1.1.3.3"><mn id="S4.T2.3.3.1.1.m1.1.3.3.2">10</mn><mrow id="S4.T2.3.3.1.1.m1.1.3.3.3"><mo id="S4.T2.3.3.1.1.m1.1.3.3.3a">−</mo><mn id="S4.T2.3.3.1.1.m1.1.3.3.3.2">2</mn></mrow></msup><mo id="S4.T2.3.3.1.1.m1.1.3.4" stretchy="false">)</mo></mrow></mrow><annotation encoding="application/x-tex" id="S4.T2.3.3.1.1.m1.1c">\mathbb{E}[|\mathrm{cov}_{\theta}|]\;(\times 10^{-2})</annotation><annotation encoding="application/x-llamapun" id="S4.T2.3.3.1.1.m1.1d">blackboard_E [ | roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT | ] ( × 10 start_POSTSUPERSCRIPT - 2 end_POSTSUPERSCRIPT )</annotation></semantics></math></span></td> <td class="ltx_td ltx_align_center" id="S4.T2.3.3.2"><span class="ltx_text" id="S4.T2.3.3.2.1" style="font-size:90%;">2.358</span></td> <td class="ltx_td ltx_align_center" id="S4.T2.3.3.3"><span class="ltx_text" id="S4.T2.3.3.3.1" style="font-size:90%;">5.634</span></td> <td class="ltx_td ltx_align_center" id="S4.T2.3.3.4" rowspan="2"><span class="ltx_text" id="S4.T2.3.3.4.1" style="font-size:90%;">+139%</span></td> </tr> <tr class="ltx_tr" id="S4.T2.5.5"> <td class="ltx_td ltx_align_center" id="S4.T2.4.4.1"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.4.4.1.m1.1"><semantics id="S4.T2.4.4.1.m1.1a"><mo id="S4.T2.4.4.1.m1.1.1" mathsize="90%" xref="S4.T2.4.4.1.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.4.4.1.m1.1b"><csymbol cd="latexml" id="S4.T2.4.4.1.m1.1.1.cmml" xref="S4.T2.4.4.1.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.4.4.1.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.4.4.1.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.4.4.1.1" style="font-size:90%;">0.11</span> </td> <td class="ltx_td ltx_align_center" id="S4.T2.5.5.2"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.5.5.2.m1.1"><semantics id="S4.T2.5.5.2.m1.1a"><mo id="S4.T2.5.5.2.m1.1.1" mathsize="90%" xref="S4.T2.5.5.2.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.5.5.2.m1.1b"><csymbol cd="latexml" id="S4.T2.5.5.2.m1.1.1.cmml" xref="S4.T2.5.5.2.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.5.5.2.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.5.5.2.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.5.5.2.1" style="font-size:90%;">0.52</span> </td> </tr> <tr class="ltx_tr" id="S4.T2.10.14.4"> <td class="ltx_td ltx_align_center ltx_border_t" colspan="4" id="S4.T2.10.14.4.1"><span class="ltx_text ltx_font_italic" id="S4.T2.10.14.4.1.1" style="font-size:90%;">3-blades</span></td> </tr> <tr class="ltx_tr" id="S4.T2.10.15.5"> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.15.5.1" rowspan="2"><span class="ltx_text" id="S4.T2.10.15.5.1.1" style="font-size:90%;">R2 score</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.15.5.2"><span class="ltx_text" id="S4.T2.10.15.5.2.1" style="font-size:90%;">0.97</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.15.5.3"><span class="ltx_text" id="S4.T2.10.15.5.3.1" style="font-size:90%;">0.89</span></td> <td class="ltx_td ltx_align_center ltx_border_t" id="S4.T2.10.15.5.4" rowspan="2"><span class="ltx_text" id="S4.T2.10.15.5.4.1" style="font-size:90%;">-8.9%</span></td> </tr> <tr class="ltx_tr" id="S4.T2.7.7"> <td class="ltx_td ltx_align_center" id="S4.T2.6.6.1"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.6.6.1.m1.1"><semantics id="S4.T2.6.6.1.m1.1a"><mo id="S4.T2.6.6.1.m1.1.1" mathsize="90%" xref="S4.T2.6.6.1.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.6.6.1.m1.1b"><csymbol cd="latexml" id="S4.T2.6.6.1.m1.1.1.cmml" xref="S4.T2.6.6.1.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.6.6.1.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.6.6.1.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.6.6.1.1" style="font-size:90%;">0.00</span> </td> <td class="ltx_td ltx_align_center" id="S4.T2.7.7.2"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.7.7.2.m1.1"><semantics id="S4.T2.7.7.2.m1.1a"><mo id="S4.T2.7.7.2.m1.1.1" mathsize="90%" xref="S4.T2.7.7.2.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.7.7.2.m1.1b"><csymbol cd="latexml" id="S4.T2.7.7.2.m1.1.1.cmml" xref="S4.T2.7.7.2.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.7.7.2.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.7.7.2.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.7.7.2.1" style="font-size:90%;">0.01</span> </td> </tr> <tr class="ltx_tr" id="S4.T2.8.8"> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T2.8.8.1" rowspan="2"><span class="ltx_text" id="S4.T2.8.8.1.1" style="font-size:90%;"><math alttext="\mathbb{E}[|\mathrm{cov}_{\theta}|]\;(\times 10^{-2})" class="ltx_math_unparsed" display="inline" id="S4.T2.8.8.1.1.m1.1"><semantics id="S4.T2.8.8.1.1.m1.1a"><mrow id="S4.T2.8.8.1.1.m1.1b"><mi id="S4.T2.8.8.1.1.m1.1.1">𝔼</mi><mrow id="S4.T2.8.8.1.1.m1.1.2"><mo id="S4.T2.8.8.1.1.m1.1.2.1" stretchy="false">[</mo><mo fence="false" id="S4.T2.8.8.1.1.m1.1.2.2" rspace="0.167em" stretchy="false">|</mo><msub id="S4.T2.8.8.1.1.m1.1.2.3"><mi id="S4.T2.8.8.1.1.m1.1.2.3.2">cov</mi><mi id="S4.T2.8.8.1.1.m1.1.2.3.3">θ</mi></msub><mo fence="false" id="S4.T2.8.8.1.1.m1.1.2.4" rspace="0.167em" stretchy="false">|</mo><mo id="S4.T2.8.8.1.1.m1.1.2.5" rspace="0.280em" stretchy="false">]</mo></mrow><mrow id="S4.T2.8.8.1.1.m1.1.3"><mo id="S4.T2.8.8.1.1.m1.1.3.1" stretchy="false">(</mo><mo id="S4.T2.8.8.1.1.m1.1.3.2" lspace="0em" rspace="0.222em">×</mo><msup id="S4.T2.8.8.1.1.m1.1.3.3"><mn id="S4.T2.8.8.1.1.m1.1.3.3.2">10</mn><mrow id="S4.T2.8.8.1.1.m1.1.3.3.3"><mo id="S4.T2.8.8.1.1.m1.1.3.3.3a">−</mo><mn id="S4.T2.8.8.1.1.m1.1.3.3.3.2">2</mn></mrow></msup><mo id="S4.T2.8.8.1.1.m1.1.3.4" stretchy="false">)</mo></mrow></mrow><annotation encoding="application/x-tex" id="S4.T2.8.8.1.1.m1.1c">\mathbb{E}[|\mathrm{cov}_{\theta}|]\;(\times 10^{-2})</annotation><annotation encoding="application/x-llamapun" id="S4.T2.8.8.1.1.m1.1d">blackboard_E [ | roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT | ] ( × 10 start_POSTSUPERSCRIPT - 2 end_POSTSUPERSCRIPT )</annotation></semantics></math></span></td> <td class="ltx_td ltx_align_center" id="S4.T2.8.8.2"><span class="ltx_text" id="S4.T2.8.8.2.1" style="font-size:90%;">2.644</span></td> <td class="ltx_td ltx_align_center" id="S4.T2.8.8.3"><span class="ltx_text" id="S4.T2.8.8.3.1" style="font-size:90%;">3.956</span></td> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T2.8.8.4" rowspan="2"><span class="ltx_text" id="S4.T2.8.8.4.1" style="font-size:90%;">+49%</span></td> </tr> <tr class="ltx_tr" id="S4.T2.10.10"> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T2.9.9.1"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.9.9.1.m1.1"><semantics id="S4.T2.9.9.1.m1.1a"><mo id="S4.T2.9.9.1.m1.1.1" mathsize="90%" xref="S4.T2.9.9.1.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.9.9.1.m1.1b"><csymbol cd="latexml" id="S4.T2.9.9.1.m1.1.1.cmml" xref="S4.T2.9.9.1.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.9.9.1.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.9.9.1.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.9.9.1.1" style="font-size:90%;">0.11</span> </td> <td class="ltx_td ltx_align_center ltx_border_bb" id="S4.T2.10.10.2"> <math alttext="\pm" class="ltx_Math" display="inline" id="S4.T2.10.10.2.m1.1"><semantics id="S4.T2.10.10.2.m1.1a"><mo id="S4.T2.10.10.2.m1.1.1" mathsize="90%" xref="S4.T2.10.10.2.m1.1.1.cmml">±</mo><annotation-xml encoding="MathML-Content" id="S4.T2.10.10.2.m1.1b"><csymbol cd="latexml" id="S4.T2.10.10.2.m1.1.1.cmml" xref="S4.T2.10.10.2.m1.1.1">plus-or-minus</csymbol></annotation-xml><annotation encoding="application/x-tex" id="S4.T2.10.10.2.m1.1c">\pm</annotation><annotation encoding="application/x-llamapun" id="S4.T2.10.10.2.m1.1d">±</annotation></semantics></math><span class="ltx_text" id="S4.T2.10.10.2.1" style="font-size:90%;">0.49</span> </td> </tr> </tbody> </table> </figure> <figure class="ltx_figure" id="S4.F6"><img alt="Refer to caption" class="ltx_graphics ltx_centering ltx_img_landscape" height="287" id="S4.F6.g1" src="x4.png" width="374"/> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 6: </span><span class="ltx_text ltx_font_bold" id="S4.F6.6.3" style="font-size:90%;">Drone noise: results for near-out-of-dataset sample.<span class="ltx_text ltx_font_medium" id="S4.F6.6.3.3"> Test sample for the three-bladed rotor at <math alttext="\Omega=5000" class="ltx_Math" display="inline" id="S4.F6.4.1.1.m1.1"><semantics id="S4.F6.4.1.1.m1.1b"><mrow id="S4.F6.4.1.1.m1.1.1" xref="S4.F6.4.1.1.m1.1.1.cmml"><mi id="S4.F6.4.1.1.m1.1.1.2" mathvariant="normal" xref="S4.F6.4.1.1.m1.1.1.2.cmml">Ω</mi><mo id="S4.F6.4.1.1.m1.1.1.1" xref="S4.F6.4.1.1.m1.1.1.1.cmml">=</mo><mn id="S4.F6.4.1.1.m1.1.1.3" xref="S4.F6.4.1.1.m1.1.1.3.cmml">5000</mn></mrow><annotation-xml encoding="MathML-Content" id="S4.F6.4.1.1.m1.1c"><apply id="S4.F6.4.1.1.m1.1.1.cmml" xref="S4.F6.4.1.1.m1.1.1"><eq id="S4.F6.4.1.1.m1.1.1.1.cmml" xref="S4.F6.4.1.1.m1.1.1.1"></eq><ci id="S4.F6.4.1.1.m1.1.1.2.cmml" xref="S4.F6.4.1.1.m1.1.1.2">Ω</ci><cn id="S4.F6.4.1.1.m1.1.1.3.cmml" type="integer" xref="S4.F6.4.1.1.m1.1.1.3">5000</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.F6.4.1.1.m1.1d">\Omega=5000</annotation><annotation encoding="application/x-llamapun" id="S4.F6.4.1.1.m1.1e">roman_Ω = 5000</annotation></semantics></math> rpm, at three times the BPF. The shaded areas represent the <math alttext="2\sigma" class="ltx_Math" display="inline" id="S4.F6.5.2.2.m2.1"><semantics id="S4.F6.5.2.2.m2.1b"><mrow id="S4.F6.5.2.2.m2.1.1" xref="S4.F6.5.2.2.m2.1.1.cmml"><mn id="S4.F6.5.2.2.m2.1.1.2" xref="S4.F6.5.2.2.m2.1.1.2.cmml">2</mn><mo id="S4.F6.5.2.2.m2.1.1.1" xref="S4.F6.5.2.2.m2.1.1.1.cmml">⁢</mo><mi id="S4.F6.5.2.2.m2.1.1.3" xref="S4.F6.5.2.2.m2.1.1.3.cmml">σ</mi></mrow><annotation-xml encoding="MathML-Content" id="S4.F6.5.2.2.m2.1c"><apply id="S4.F6.5.2.2.m2.1.1.cmml" xref="S4.F6.5.2.2.m2.1.1"><times id="S4.F6.5.2.2.m2.1.1.1.cmml" xref="S4.F6.5.2.2.m2.1.1.1"></times><cn id="S4.F6.5.2.2.m2.1.1.2.cmml" type="integer" xref="S4.F6.5.2.2.m2.1.1.2">2</cn><ci id="S4.F6.5.2.2.m2.1.1.3.cmml" xref="S4.F6.5.2.2.m2.1.1.3">𝜎</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.F6.5.2.2.m2.1d">2\sigma</annotation><annotation encoding="application/x-llamapun" id="S4.F6.5.2.2.m2.1e">2 italic_σ</annotation></semantics></math> confidence interval; given by the variance of the Monte Carlo integration on the left and by the total uncertainty <math alttext="\sigma_{\theta}^{2}" class="ltx_Math" display="inline" id="S4.F6.6.3.3.m3.1"><semantics id="S4.F6.6.3.3.m3.1b"><msubsup id="S4.F6.6.3.3.m3.1.1" xref="S4.F6.6.3.3.m3.1.1.cmml"><mi id="S4.F6.6.3.3.m3.1.1.2.2" xref="S4.F6.6.3.3.m3.1.1.2.2.cmml">σ</mi><mi id="S4.F6.6.3.3.m3.1.1.2.3" xref="S4.F6.6.3.3.m3.1.1.2.3.cmml">θ</mi><mn id="S4.F6.6.3.3.m3.1.1.3" xref="S4.F6.6.3.3.m3.1.1.3.cmml">2</mn></msubsup><annotation-xml encoding="MathML-Content" id="S4.F6.6.3.3.m3.1c"><apply id="S4.F6.6.3.3.m3.1.1.cmml" xref="S4.F6.6.3.3.m3.1.1"><csymbol cd="ambiguous" id="S4.F6.6.3.3.m3.1.1.1.cmml" xref="S4.F6.6.3.3.m3.1.1">superscript</csymbol><apply id="S4.F6.6.3.3.m3.1.1.2.cmml" xref="S4.F6.6.3.3.m3.1.1"><csymbol cd="ambiguous" id="S4.F6.6.3.3.m3.1.1.2.1.cmml" xref="S4.F6.6.3.3.m3.1.1">subscript</csymbol><ci id="S4.F6.6.3.3.m3.1.1.2.2.cmml" xref="S4.F6.6.3.3.m3.1.1.2.2">𝜎</ci><ci id="S4.F6.6.3.3.m3.1.1.2.3.cmml" xref="S4.F6.6.3.3.m3.1.1.2.3">𝜃</ci></apply><cn id="S4.F6.6.3.3.m3.1.1.3.cmml" type="integer" xref="S4.F6.6.3.3.m3.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S4.F6.6.3.3.m3.1d">\sigma_{\theta}^{2}</annotation><annotation encoding="application/x-llamapun" id="S4.F6.6.3.3.m3.1e">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math> on the right.</span></span></figcaption> </figure> </section> </section> <section class="ltx_section" id="S5"> <h2 class="ltx_title ltx_title_section"> <span class="ltx_tag ltx_tag_section">5 </span>Conclusion</h2> <div class="ltx_para" id="S5.p1"> <p class="ltx_p" id="S5.p1.3">The present work establishes a mathematically rigorous approach to estimate the epistemic uncertainty of a model in a frequentist manner, for regression tasks. In particular, a perfectly calibrated model has been shown to mix aleatoric and epistemic uncertainty when predicting its variance (Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a>). By training on a dataset composed of triplets <math alttext="(x,y_{1},y_{2})" class="ltx_Math" display="inline" id="S5.p1.1.m1.3"><semantics id="S5.p1.1.m1.3a"><mrow id="S5.p1.1.m1.3.3.2" xref="S5.p1.1.m1.3.3.3.cmml"><mo id="S5.p1.1.m1.3.3.2.3" stretchy="false" xref="S5.p1.1.m1.3.3.3.cmml">(</mo><mi id="S5.p1.1.m1.1.1" xref="S5.p1.1.m1.1.1.cmml">x</mi><mo id="S5.p1.1.m1.3.3.2.4" xref="S5.p1.1.m1.3.3.3.cmml">,</mo><msub id="S5.p1.1.m1.2.2.1.1" xref="S5.p1.1.m1.2.2.1.1.cmml"><mi id="S5.p1.1.m1.2.2.1.1.2" xref="S5.p1.1.m1.2.2.1.1.2.cmml">y</mi><mn id="S5.p1.1.m1.2.2.1.1.3" xref="S5.p1.1.m1.2.2.1.1.3.cmml">1</mn></msub><mo id="S5.p1.1.m1.3.3.2.5" xref="S5.p1.1.m1.3.3.3.cmml">,</mo><msub id="S5.p1.1.m1.3.3.2.2" xref="S5.p1.1.m1.3.3.2.2.cmml"><mi id="S5.p1.1.m1.3.3.2.2.2" xref="S5.p1.1.m1.3.3.2.2.2.cmml">y</mi><mn id="S5.p1.1.m1.3.3.2.2.3" xref="S5.p1.1.m1.3.3.2.2.3.cmml">2</mn></msub><mo id="S5.p1.1.m1.3.3.2.6" stretchy="false" xref="S5.p1.1.m1.3.3.3.cmml">)</mo></mrow><annotation-xml encoding="MathML-Content" id="S5.p1.1.m1.3b"><vector id="S5.p1.1.m1.3.3.3.cmml" xref="S5.p1.1.m1.3.3.2"><ci id="S5.p1.1.m1.1.1.cmml" xref="S5.p1.1.m1.1.1">𝑥</ci><apply id="S5.p1.1.m1.2.2.1.1.cmml" xref="S5.p1.1.m1.2.2.1.1"><csymbol cd="ambiguous" id="S5.p1.1.m1.2.2.1.1.1.cmml" xref="S5.p1.1.m1.2.2.1.1">subscript</csymbol><ci id="S5.p1.1.m1.2.2.1.1.2.cmml" xref="S5.p1.1.m1.2.2.1.1.2">𝑦</ci><cn id="S5.p1.1.m1.2.2.1.1.3.cmml" type="integer" xref="S5.p1.1.m1.2.2.1.1.3">1</cn></apply><apply id="S5.p1.1.m1.3.3.2.2.cmml" xref="S5.p1.1.m1.3.3.2.2"><csymbol cd="ambiguous" id="S5.p1.1.m1.3.3.2.2.1.cmml" xref="S5.p1.1.m1.3.3.2.2">subscript</csymbol><ci id="S5.p1.1.m1.3.3.2.2.2.cmml" xref="S5.p1.1.m1.3.3.2.2.2">𝑦</ci><cn id="S5.p1.1.m1.3.3.2.2.3.cmml" type="integer" xref="S5.p1.1.m1.3.3.2.2.3">2</cn></apply></vector></annotation-xml><annotation encoding="application/x-tex" id="S5.p1.1.m1.3c">(x,y_{1},y_{2})</annotation><annotation encoding="application/x-llamapun" id="S5.p1.1.m1.3d">( italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT )</annotation></semantics></math>, where <math alttext="y_{1}" class="ltx_Math" display="inline" id="S5.p1.2.m2.1"><semantics id="S5.p1.2.m2.1a"><msub id="S5.p1.2.m2.1.1" xref="S5.p1.2.m2.1.1.cmml"><mi id="S5.p1.2.m2.1.1.2" xref="S5.p1.2.m2.1.1.2.cmml">y</mi><mn id="S5.p1.2.m2.1.1.3" xref="S5.p1.2.m2.1.1.3.cmml">1</mn></msub><annotation-xml encoding="MathML-Content" id="S5.p1.2.m2.1b"><apply id="S5.p1.2.m2.1.1.cmml" xref="S5.p1.2.m2.1.1"><csymbol cd="ambiguous" id="S5.p1.2.m2.1.1.1.cmml" xref="S5.p1.2.m2.1.1">subscript</csymbol><ci id="S5.p1.2.m2.1.1.2.cmml" xref="S5.p1.2.m2.1.1.2">𝑦</ci><cn id="S5.p1.2.m2.1.1.3.cmml" type="integer" xref="S5.p1.2.m2.1.1.3">1</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S5.p1.2.m2.1c">y_{1}</annotation><annotation encoding="application/x-llamapun" id="S5.p1.2.m2.1d">italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="y_{2}" class="ltx_Math" display="inline" id="S5.p1.3.m3.1"><semantics id="S5.p1.3.m3.1a"><msub id="S5.p1.3.m3.1.1" xref="S5.p1.3.m3.1.1.cmml"><mi id="S5.p1.3.m3.1.1.2" xref="S5.p1.3.m3.1.1.2.cmml">y</mi><mn id="S5.p1.3.m3.1.1.3" xref="S5.p1.3.m3.1.1.3.cmml">2</mn></msub><annotation-xml encoding="MathML-Content" id="S5.p1.3.m3.1b"><apply id="S5.p1.3.m3.1.1.cmml" xref="S5.p1.3.m3.1.1"><csymbol cd="ambiguous" id="S5.p1.3.m3.1.1.1.cmml" xref="S5.p1.3.m3.1.1">subscript</csymbol><ci id="S5.p1.3.m3.1.1.2.cmml" xref="S5.p1.3.m3.1.1.2">𝑦</ci><cn id="S5.p1.3.m3.1.1.3.cmml" type="integer" xref="S5.p1.3.m3.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="S5.p1.3.m3.1c">y_{2}</annotation><annotation encoding="application/x-llamapun" id="S5.p1.3.m3.1d">italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math> are iid, it is possible to estimate the epistemic part of the variance by using the model covariance (Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a>). This results extends previous work done in the context of classification by <cite class="ltx_cite ltx_citemacro_citep">(Johnson et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib7" title="">2024</a>)</cite>. Finally, a practical way to compute the model covariance by feeding the model its own predictions has been presented in Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.E9" title="Equation 9 ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">9</span></a>), which requires minimal changes to the model architecture and training procedure.</p> </div> <div class="ltx_para" id="S5.p2"> <p class="ltx_p" id="S5.p2.1">Looking at the problem of epistemic uncertainty prediction under a frequentist lens can help to diversify the landscape of UQ methodologies, which at the moment is dominated by Bayesian approaches. While these are undeniably successful, there seems to always be a trade-off between accuracy in the prediction of the weight posterior <math alttext="p(\theta|\mathcal{D})" class="ltx_Math" display="inline" id="S5.p2.1.m1.1"><semantics id="S5.p2.1.m1.1a"><mrow id="S5.p2.1.m1.1.1" xref="S5.p2.1.m1.1.1.cmml"><mi id="S5.p2.1.m1.1.1.3" xref="S5.p2.1.m1.1.1.3.cmml">p</mi><mo id="S5.p2.1.m1.1.1.2" xref="S5.p2.1.m1.1.1.2.cmml">⁢</mo><mrow id="S5.p2.1.m1.1.1.1.1" xref="S5.p2.1.m1.1.1.1.1.1.cmml"><mo id="S5.p2.1.m1.1.1.1.1.2" stretchy="false" xref="S5.p2.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="S5.p2.1.m1.1.1.1.1.1" xref="S5.p2.1.m1.1.1.1.1.1.cmml"><mi id="S5.p2.1.m1.1.1.1.1.1.2" xref="S5.p2.1.m1.1.1.1.1.1.2.cmml">θ</mi><mo fence="false" id="S5.p2.1.m1.1.1.1.1.1.1" xref="S5.p2.1.m1.1.1.1.1.1.1.cmml">|</mo><mi class="ltx_font_mathcaligraphic" id="S5.p2.1.m1.1.1.1.1.1.3" xref="S5.p2.1.m1.1.1.1.1.1.3.cmml">𝒟</mi></mrow><mo id="S5.p2.1.m1.1.1.1.1.3" stretchy="false" xref="S5.p2.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="S5.p2.1.m1.1b"><apply id="S5.p2.1.m1.1.1.cmml" xref="S5.p2.1.m1.1.1"><times id="S5.p2.1.m1.1.1.2.cmml" xref="S5.p2.1.m1.1.1.2"></times><ci id="S5.p2.1.m1.1.1.3.cmml" xref="S5.p2.1.m1.1.1.3">𝑝</ci><apply id="S5.p2.1.m1.1.1.1.1.1.cmml" xref="S5.p2.1.m1.1.1.1.1"><csymbol cd="latexml" id="S5.p2.1.m1.1.1.1.1.1.1.cmml" xref="S5.p2.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="S5.p2.1.m1.1.1.1.1.1.2.cmml" xref="S5.p2.1.m1.1.1.1.1.1.2">𝜃</ci><ci id="S5.p2.1.m1.1.1.1.1.1.3.cmml" xref="S5.p2.1.m1.1.1.1.1.1.3">𝒟</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S5.p2.1.m1.1c">p(\theta|\mathcal{D})</annotation><annotation encoding="application/x-llamapun" id="S5.p2.1.m1.1d">italic_p ( italic_θ | caligraphic_D )</annotation></semantics></math> and the computational cost. The present method, on the other hand, shifts the burden from the model, which is modified only slightly, to the dataset, where we require multiple outcomes to be collected for every input. While this could be an insurmountable obstacle for some practitioners, many experimental datasets are already built this way, as we showed for the aerodynamic loading and the drone noise measurements.</p> </div> <div class="ltx_para" id="S5.p3"> <p class="ltx_p" id="S5.p3.1">The requirement for the model to be calibrated in the first place can seem harsh. However the present methodology is able to detect when a model is <em class="ltx_emph ltx_font_italic" id="S5.p3.1.1">not</em> calibrated, by violating the theorems proved in the case of perfect calibration, which would be difficult to do otherwise. This behavior results in high levels of <math alttext="|\mathrm{cov}_{\theta}|" class="ltx_Math" display="inline" id="S5.p3.1.m1.1"><semantics id="S5.p3.1.m1.1a"><mrow id="S5.p3.1.m1.1.1.1" xref="S5.p3.1.m1.1.1.2.cmml"><mo id="S5.p3.1.m1.1.1.1.2" stretchy="false" xref="S5.p3.1.m1.1.1.2.1.cmml">|</mo><msub id="S5.p3.1.m1.1.1.1.1" xref="S5.p3.1.m1.1.1.1.1.cmml"><mi id="S5.p3.1.m1.1.1.1.1.2" xref="S5.p3.1.m1.1.1.1.1.2.cmml">cov</mi><mi id="S5.p3.1.m1.1.1.1.1.3" xref="S5.p3.1.m1.1.1.1.1.3.cmml">θ</mi></msub><mo id="S5.p3.1.m1.1.1.1.3" stretchy="false" xref="S5.p3.1.m1.1.1.2.1.cmml">|</mo></mrow><annotation-xml encoding="MathML-Content" id="S5.p3.1.m1.1b"><apply id="S5.p3.1.m1.1.1.2.cmml" xref="S5.p3.1.m1.1.1.1"><abs id="S5.p3.1.m1.1.1.2.1.cmml" xref="S5.p3.1.m1.1.1.1.2"></abs><apply id="S5.p3.1.m1.1.1.1.1.cmml" xref="S5.p3.1.m1.1.1.1.1"><csymbol cd="ambiguous" id="S5.p3.1.m1.1.1.1.1.1.cmml" xref="S5.p3.1.m1.1.1.1.1">subscript</csymbol><ci id="S5.p3.1.m1.1.1.1.1.2.cmml" xref="S5.p3.1.m1.1.1.1.1.2">cov</ci><ci id="S5.p3.1.m1.1.1.1.1.3.cmml" xref="S5.p3.1.m1.1.1.1.1.3">𝜃</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="S5.p3.1.m1.1c">|\mathrm{cov}_{\theta}|</annotation><annotation encoding="application/x-llamapun" id="S5.p3.1.m1.1d">| roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT |</annotation></semantics></math> when extrapolating far from the dataset. Explaining the behavior of our feedback procedure for non calibrated models could be a fruitful direction for future research.</p> </div> </section> <section class="ltx_bibliography" id="bib"> <h2 class="ltx_title ltx_title_bibliography">References</h2> <ul class="ltx_biblist"> <li class="ltx_bibitem" id="bib.bib1"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Bengs et al. (2023)</span> <span class="ltx_bibblock"> Bengs, V., Hüllermeier, E., and Waegeman, W. </span> <span class="ltx_bibblock">On second-order scoring rules for epistemic uncertainty quantification. </span> <span class="ltx_bibblock">In <em class="ltx_emph ltx_font_italic" id="bib.bib1.1.1">International Conference on Machine Learning</em>, pp. 2078–2091. PMLR, 2023. </span> </li> <li class="ltx_bibitem" id="bib.bib2"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Durasov et al. (2024)</span> <span class="ltx_bibblock"> Durasov, N., Dorndorf, N., Le, H., and Fua, P. </span> <span class="ltx_bibblock">ZigZag: Universal Sampling-free Uncertainty Estimation Through Two-Step Inference. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib2.1.1">Transactions on Machine Learning Research</em>, 2024. </span> <span class="ltx_bibblock">In press. </span> </li> <li class="ltx_bibitem" id="bib.bib3"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Gal & Ghahramani (2016)</span> <span class="ltx_bibblock"> Gal, Y. and Ghahramani, Z. </span> <span class="ltx_bibblock">Dropout as a bayesian approximation: Representing model uncertainty in deep learning. </span> <span class="ltx_bibblock">In <em class="ltx_emph ltx_font_italic" id="bib.bib3.1.1">international conference on machine learning</em>, pp. 1050–1059. PMLR, 2016. </span> </li> <li class="ltx_bibitem" id="bib.bib4"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Gneiting & Raftery (2007)</span> <span class="ltx_bibblock"> Gneiting, T. and Raftery, A. E. </span> <span class="ltx_bibblock">Strictly proper scoring rules, prediction, and estimation. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib4.1.1">Journal of the American statistical Association</em>, 102(477):359–378, 2007. </span> </li> <li class="ltx_bibitem" id="bib.bib5"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Gojon et al. (2021)</span> <span class="ltx_bibblock"> Gojon, R., Jardin, T., and Parisot-Dupuis, H. </span> <span class="ltx_bibblock">Experimental investigation of low reynolds number rotor noise. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib5.1.1">The Journal of the Acoustical Society of America</em>, 149(6):3813–3829, 06 2021. </span> <span class="ltx_bibblock">ISSN 0001-4966. </span> <span class="ltx_bibblock">doi: <span class="ltx_ref ltx_nolink ltx_Url ltx_ref_self">10.1121/10.0005068</span>. </span> <span class="ltx_bibblock">URL <a class="ltx_ref ltx_url ltx_font_typewriter" href="https://doi.org/10.1121/10.0005068" title="">https://doi.org/10.1121/10.0005068</a>. </span> </li> <li class="ltx_bibitem" id="bib.bib6"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Izmailov et al. (2021)</span> <span class="ltx_bibblock"> Izmailov, P., Vikram, S., Hoffman, M. D., and Wilson, A. G. G. </span> <span class="ltx_bibblock">What are bayesian neural network posteriors really like? </span> <span class="ltx_bibblock">In <em class="ltx_emph ltx_font_italic" id="bib.bib6.1.1">International conference on machine learning</em>, pp. 4629–4640. PMLR, 2021. </span> </li> <li class="ltx_bibitem" id="bib.bib7"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Johnson et al. (2024)</span> <span class="ltx_bibblock"> Johnson, D. D., Tarlow, D., Duvenaud, D., and Maddison, C. J. </span> <span class="ltx_bibblock">Experts don’t cheat: Learning what you don’t know by predicting pairs. </span> <span class="ltx_bibblock">In <em class="ltx_emph ltx_font_italic" id="bib.bib7.1.1">Forty-first International Conference on Machine Learning</em>, 2024. </span> </li> <li class="ltx_bibitem" id="bib.bib8"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">King (2007)</span> <span class="ltx_bibblock"> King, G. </span> <span class="ltx_bibblock">An introduction to the dataverse network as an infrastructure for data sharing, 2007. </span> </li> <li class="ltx_bibitem" id="bib.bib9"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Lakshminarayanan et al. (2017)</span> <span class="ltx_bibblock"> Lakshminarayanan, B., Pritzel, A., and Blundell, C. </span> <span class="ltx_bibblock">Simple and scalable predictive uncertainty estimation using deep ensembles. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib9.1.1">Advances in neural information processing systems</em>, 30, 2017. </span> </li> <li class="ltx_bibitem" id="bib.bib10"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Levi et al. (2022)</span> <span class="ltx_bibblock"> Levi, D., Gispan, L., Giladi, N., and Fetaya, E. </span> <span class="ltx_bibblock">Evaluating and calibrating uncertainty prediction in regression tasks. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib10.1.1">Sensors</em>, 22(15):5540, 2022. </span> </li> <li class="ltx_bibitem" id="bib.bib11"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Low (1997)</span> <span class="ltx_bibblock"> Low, M. G. </span> <span class="ltx_bibblock">On nonparametric confidence intervals. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib11.1.1">The Annals of Statistics</em>, 25(6):2547–2554, 1997. </span> </li> <li class="ltx_bibitem" id="bib.bib12"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">MacKay (1992)</span> <span class="ltx_bibblock"> MacKay, D. J. C. </span> <span class="ltx_bibblock">Bayesian interpolation. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib12.1.1">Neural Computation</em>, 4(3):415–447, 05 1992. </span> <span class="ltx_bibblock">ISSN 0899-7667. </span> <span class="ltx_bibblock">doi: <span class="ltx_ref ltx_nolink ltx_Url ltx_ref_self">10.1162/neco.1992.4.3.415</span>. </span> <span class="ltx_bibblock">URL <a class="ltx_ref ltx_url ltx_font_typewriter" href="https://doi.org/10.1162/neco.1992.4.3.415" title="">https://doi.org/10.1162/neco.1992.4.3.415</a>. </span> </li> <li class="ltx_bibitem" id="bib.bib13"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Mucsányi et al. (2024)</span> <span class="ltx_bibblock"> Mucsányi, B., Kirchhof, M., and Oh, S. J. </span> <span class="ltx_bibblock">Benchmarking uncertainty disentanglement: Specialized uncertainties for specialized tasks. </span> <span class="ltx_bibblock">In <em class="ltx_emph ltx_font_italic" id="bib.bib13.1.1">Advances in neural information processing systems</em>, 2024. </span> </li> <li class="ltx_bibitem" id="bib.bib14"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Neal (2011)</span> <span class="ltx_bibblock"> Neal, R. M. </span> <span class="ltx_bibblock">Mcmc using hamiltonian dynamics. </span> <span class="ltx_bibblock">In <em class="ltx_emph ltx_font_italic" id="bib.bib14.1.1">Handbook of Markov Chain Monte Carlo</em>, pp. 113–162. Chapman and Hall/CRC, 2011. </span> </li> <li class="ltx_bibitem" id="bib.bib15"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Seitzer et al. (2022)</span> <span class="ltx_bibblock"> Seitzer, M., Tavakoli, A., Antic, D., and Martius, G. </span> <span class="ltx_bibblock">On the pitfalls of heteroscedastic uncertainty estimation with probabilistic neural networks. </span> <span class="ltx_bibblock">In <em class="ltx_emph ltx_font_italic" id="bib.bib15.1.1">International Conference on Learning Representations</em>, 2022. </span> <span class="ltx_bibblock">URL <a class="ltx_ref ltx_url ltx_font_typewriter" href="https://openreview.net/forum?id=aPOpXlnV1T" title="">https://openreview.net/forum?id=aPOpXlnV1T</a>. </span> </li> <li class="ltx_bibitem" id="bib.bib16"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Song et al. (2019)</span> <span class="ltx_bibblock"> Song, H., Diethe, T., Kull, M., and Flach, P. </span> <span class="ltx_bibblock">Distribution calibration for regression. </span> <span class="ltx_bibblock">In Chaudhuri, K. and Salakhutdinov, R. (eds.), <em class="ltx_emph ltx_font_italic" id="bib.bib16.1.1">Proceedings of the 36th International Conference on Machine Learning</em>, volume 97 of <em class="ltx_emph ltx_font_italic" id="bib.bib16.2.2">Proceedings of Machine Learning Research</em>, pp. 5897–5906. PMLR, 09–15 Jun 2019. </span> <span class="ltx_bibblock">URL <a class="ltx_ref ltx_url ltx_font_typewriter" href="https://proceedings.mlr.press/v97/song19a.html" title="">https://proceedings.mlr.press/v97/song19a.html</a>. </span> </li> <li class="ltx_bibitem" id="bib.bib17"> <span class="ltx_tag ltx_role_refnum ltx_tag_bibitem">Wild et al. (2024)</span> <span class="ltx_bibblock"> Wild, V. D., Ghalebikesabi, S., Sejdinovic, D., and Knoblauch, J. </span> <span class="ltx_bibblock">A rigorous link between deep ensembles and (variational) bayesian methods. </span> <span class="ltx_bibblock"><em class="ltx_emph ltx_font_italic" id="bib.bib17.1.1">Advances in Neural Information Processing Systems</em>, 36, 2024. </span> </li> </ul> </section> <div class="ltx_pagination ltx_role_newpage"></div> <section class="ltx_appendix" id="A1"> <h2 class="ltx_title ltx_title_appendix"> <span class="ltx_tag ltx_tag_appendix">Appendix A </span>Proofs of the theorems</h2> <div class="ltx_proof" id="A1.1"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of theorem <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a>.</h6> <div class="ltx_para" id="A1.1.p1"> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E23"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E23X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathbb{E}_{\theta}[Y|x]" class="ltx_Math" display="inline" id="A1.E23X.2.1.1.m1.1"><semantics id="A1.E23X.2.1.1.m1.1a"><mrow id="A1.E23X.2.1.1.m1.1.1" xref="A1.E23X.2.1.1.m1.1.1.cmml"><msub id="A1.E23X.2.1.1.m1.1.1.3" xref="A1.E23X.2.1.1.m1.1.1.3.cmml"><mi id="A1.E23X.2.1.1.m1.1.1.3.2" xref="A1.E23X.2.1.1.m1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E23X.2.1.1.m1.1.1.3.3" xref="A1.E23X.2.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E23X.2.1.1.m1.1.1.2" xref="A1.E23X.2.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E23X.2.1.1.m1.1.1.1.1" xref="A1.E23X.2.1.1.m1.1.1.1.2.cmml"><mo id="A1.E23X.2.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E23X.2.1.1.m1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E23X.2.1.1.m1.1.1.1.1.1" xref="A1.E23X.2.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.E23X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E23X.2.1.1.m1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E23X.2.1.1.m1.1.1.1.1.1.1" xref="A1.E23X.2.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E23X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E23X.2.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E23X.2.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E23X.2.1.1.m1.1.1.1.2.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E23X.2.1.1.m1.1b"><apply id="A1.E23X.2.1.1.m1.1.1.cmml" xref="A1.E23X.2.1.1.m1.1.1"><times id="A1.E23X.2.1.1.m1.1.1.2.cmml" xref="A1.E23X.2.1.1.m1.1.1.2"></times><apply id="A1.E23X.2.1.1.m1.1.1.3.cmml" xref="A1.E23X.2.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A1.E23X.2.1.1.m1.1.1.3.1.cmml" xref="A1.E23X.2.1.1.m1.1.1.3">subscript</csymbol><ci id="A1.E23X.2.1.1.m1.1.1.3.2.cmml" xref="A1.E23X.2.1.1.m1.1.1.3.2">𝔼</ci><ci id="A1.E23X.2.1.1.m1.1.1.3.3.cmml" xref="A1.E23X.2.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A1.E23X.2.1.1.m1.1.1.1.2.cmml" xref="A1.E23X.2.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A1.E23X.2.1.1.m1.1.1.1.2.1.cmml" xref="A1.E23X.2.1.1.m1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E23X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E23X.2.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E23X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E23X.2.1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E23X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E23X.2.1.1.m1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E23X.2.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E23X.2.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E23X.2.1.1.m1.1c">\displaystyle\mathbb{E}_{\theta}[Y|x]</annotation><annotation encoding="application/x-llamapun" id="A1.E23X.2.1.1.m1.1d">blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}}yp_{\theta}(y|x)\mathrm{d}y" class="ltx_Math" display="inline" id="A1.E23X.3.2.2.m1.1"><semantics id="A1.E23X.3.2.2.m1.1a"><mrow id="A1.E23X.3.2.2.m1.1.1" xref="A1.E23X.3.2.2.m1.1.1.cmml"><mi id="A1.E23X.3.2.2.m1.1.1.3" xref="A1.E23X.3.2.2.m1.1.1.3.cmml"></mi><mo id="A1.E23X.3.2.2.m1.1.1.2" xref="A1.E23X.3.2.2.m1.1.1.2.cmml">=</mo><mrow id="A1.E23X.3.2.2.m1.1.1.1" xref="A1.E23X.3.2.2.m1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E23X.3.2.2.m1.1.1.1.2" xref="A1.E23X.3.2.2.m1.1.1.1.2.cmml"><msub id="A1.E23X.3.2.2.m1.1.1.1.2a" xref="A1.E23X.3.2.2.m1.1.1.1.2.cmml"><mo id="A1.E23X.3.2.2.m1.1.1.1.2.2" xref="A1.E23X.3.2.2.m1.1.1.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E23X.3.2.2.m1.1.1.1.2.3" xref="A1.E23X.3.2.2.m1.1.1.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E23X.3.2.2.m1.1.1.1.1" xref="A1.E23X.3.2.2.m1.1.1.1.1.cmml"><mi id="A1.E23X.3.2.2.m1.1.1.1.1.3" xref="A1.E23X.3.2.2.m1.1.1.1.1.3.cmml">y</mi><mo id="A1.E23X.3.2.2.m1.1.1.1.1.2" xref="A1.E23X.3.2.2.m1.1.1.1.1.2.cmml">⁢</mo><msub id="A1.E23X.3.2.2.m1.1.1.1.1.4" xref="A1.E23X.3.2.2.m1.1.1.1.1.4.cmml"><mi id="A1.E23X.3.2.2.m1.1.1.1.1.4.2" xref="A1.E23X.3.2.2.m1.1.1.1.1.4.2.cmml">p</mi><mi id="A1.E23X.3.2.2.m1.1.1.1.1.4.3" xref="A1.E23X.3.2.2.m1.1.1.1.1.4.3.cmml">θ</mi></msub><mo id="A1.E23X.3.2.2.m1.1.1.1.1.2a" xref="A1.E23X.3.2.2.m1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E23X.3.2.2.m1.1.1.1.1.1.1" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.cmml"><mo id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.cmml"><mi id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.2" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.1" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.3" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E23X.3.2.2.m1.1.1.1.1.2b" lspace="0em" xref="A1.E23X.3.2.2.m1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E23X.3.2.2.m1.1.1.1.1.5" xref="A1.E23X.3.2.2.m1.1.1.1.1.5.cmml"><mo id="A1.E23X.3.2.2.m1.1.1.1.1.5.1" rspace="0em" xref="A1.E23X.3.2.2.m1.1.1.1.1.5.1.cmml">d</mo><mi id="A1.E23X.3.2.2.m1.1.1.1.1.5.2" xref="A1.E23X.3.2.2.m1.1.1.1.1.5.2.cmml">y</mi></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E23X.3.2.2.m1.1b"><apply id="A1.E23X.3.2.2.m1.1.1.cmml" xref="A1.E23X.3.2.2.m1.1.1"><eq id="A1.E23X.3.2.2.m1.1.1.2.cmml" xref="A1.E23X.3.2.2.m1.1.1.2"></eq><csymbol cd="latexml" id="A1.E23X.3.2.2.m1.1.1.3.cmml" xref="A1.E23X.3.2.2.m1.1.1.3">absent</csymbol><apply id="A1.E23X.3.2.2.m1.1.1.1.cmml" xref="A1.E23X.3.2.2.m1.1.1.1"><apply id="A1.E23X.3.2.2.m1.1.1.1.2.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E23X.3.2.2.m1.1.1.1.2.1.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.2">subscript</csymbol><int id="A1.E23X.3.2.2.m1.1.1.1.2.2.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.2.2"></int><ci id="A1.E23X.3.2.2.m1.1.1.1.2.3.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.2.3">𝒴</ci></apply><apply id="A1.E23X.3.2.2.m1.1.1.1.1.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1"><times id="A1.E23X.3.2.2.m1.1.1.1.1.2.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.2"></times><ci id="A1.E23X.3.2.2.m1.1.1.1.1.3.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.3">𝑦</ci><apply id="A1.E23X.3.2.2.m1.1.1.1.1.4.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E23X.3.2.2.m1.1.1.1.1.4.1.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.4">subscript</csymbol><ci id="A1.E23X.3.2.2.m1.1.1.1.1.4.2.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.4.2">𝑝</ci><ci id="A1.E23X.3.2.2.m1.1.1.1.1.4.3.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.4.3">𝜃</ci></apply><apply id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.1.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.2">𝑦</ci><ci id="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.1.1.1.3">𝑥</ci></apply><apply id="A1.E23X.3.2.2.m1.1.1.1.1.5.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.5"><csymbol cd="latexml" id="A1.E23X.3.2.2.m1.1.1.1.1.5.1.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.5.1">differential-d</csymbol><ci id="A1.E23X.3.2.2.m1.1.1.1.1.5.2.cmml" xref="A1.E23X.3.2.2.m1.1.1.1.1.5.2">𝑦</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E23X.3.2.2.m1.1c">\displaystyle=\int_{\mathcal{Y}}yp_{\theta}(y|x)\mathrm{d}y</annotation><annotation encoding="application/x-llamapun" id="A1.E23X.3.2.2.m1.1d">= ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) roman_d italic_y</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E23X.5.1.1.1">definition of </span><math alttext="\mathbb{E}" class="ltx_markedasmath" display="inline" id="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">𝔼</mi><annotation-xml encoding="MathML-Content" id="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1.1">𝔼</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{E}</annotation><annotation encoding="application/x-llamapun" id="A1.E23.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_E</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="4"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(23)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E23Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}}y\left(\int_{\mathcal{X}}p(y|x^{\prime})p(x^{% \prime}|[x])\mathrm{d}x^{\prime}\right)\mathrm{d}y" class="ltx_Math" display="inline" id="A1.E23Xa.2.1.1.m1.2"><semantics id="A1.E23Xa.2.1.1.m1.2a"><mrow id="A1.E23Xa.2.1.1.m1.2.2" xref="A1.E23Xa.2.1.1.m1.2.2.cmml"><mi id="A1.E23Xa.2.1.1.m1.2.2.3" xref="A1.E23Xa.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E23Xa.2.1.1.m1.2.2.2" xref="A1.E23Xa.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.cmml"><mstyle displaystyle="true" id="A1.E23Xa.2.1.1.m1.2.2.1.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.2.cmml"><msub id="A1.E23Xa.2.1.1.m1.2.2.1.2a" xref="A1.E23Xa.2.1.1.m1.2.2.1.2.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.2.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E23Xa.2.1.1.m1.2.2.1.2.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.cmml"><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.3.cmml">y</mi><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><msub id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3a" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.4" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.4.cmml">p</mi><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3a" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.5" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.5.cmml">p</mi><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3b" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><msup id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml">x</mi><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.1" stretchy="false" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.1.cmml">[</mo><mi id="A1.E23Xa.2.1.1.m1.1.1" xref="A1.E23Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.2" stretchy="false" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3c" lspace="0em" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.1" rspace="0em" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.1.cmml">d</mo><msup id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.cmml"><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2.cmml">x</mi><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3.cmml">′</mo></msup></mrow></mrow></mrow><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.2a" lspace="0em" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E23Xa.2.1.1.m1.2.2.1.1.4" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.4.cmml"><mo id="A1.E23Xa.2.1.1.m1.2.2.1.1.4.1" rspace="0em" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.4.1.cmml">d</mo><mi id="A1.E23Xa.2.1.1.m1.2.2.1.1.4.2" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.4.2.cmml">y</mi></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E23Xa.2.1.1.m1.2b"><apply id="A1.E23Xa.2.1.1.m1.2.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2"><eq id="A1.E23Xa.2.1.1.m1.2.2.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E23Xa.2.1.1.m1.2.2.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E23Xa.2.1.1.m1.2.2.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1"><apply id="A1.E23Xa.2.1.1.m1.2.2.1.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.2"><csymbol cd="ambiguous" id="A1.E23Xa.2.1.1.m1.2.2.1.2.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.2">subscript</csymbol><int id="A1.E23Xa.2.1.1.m1.2.2.1.2.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.2.2"></int><ci id="A1.E23Xa.2.1.1.m1.2.2.1.2.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.2.3">𝒴</ci></apply><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1"><times id="A1.E23Xa.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.2"></times><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.3">𝑦</ci><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1"><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3">subscript</csymbol><int id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.2"></int><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3">𝒳</ci></apply><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2"><times id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.3"></times><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.4.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.4">𝑝</ci><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2">𝑦</ci><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3">′</ci></apply></apply><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.5.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.5">𝑝</ci><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2">superscript</csymbol><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2">𝑥</ci><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3">′</ci></apply><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2"><csymbol cd="latexml" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E23Xa.2.1.1.m1.1.1.cmml" xref="A1.E23Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6"><csymbol cd="latexml" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.1">differential-d</csymbol><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2"><csymbol cd="ambiguous" id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2">superscript</csymbol><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2">𝑥</ci><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3">′</ci></apply></apply></apply></apply><apply id="A1.E23Xa.2.1.1.m1.2.2.1.1.4.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.4"><csymbol cd="latexml" id="A1.E23Xa.2.1.1.m1.2.2.1.1.4.1.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.4.1">differential-d</csymbol><ci id="A1.E23Xa.2.1.1.m1.2.2.1.1.4.2.cmml" xref="A1.E23Xa.2.1.1.m1.2.2.1.1.4.2">𝑦</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E23Xa.2.1.1.m1.2c">\displaystyle=\int_{\mathcal{Y}}y\left(\int_{\mathcal{X}}p(y|x^{\prime})p(x^{% \prime}|[x])\mathrm{d}x^{\prime}\right)\mathrm{d}y</annotation><annotation encoding="application/x-llamapun" id="A1.E23Xa.2.1.1.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y ( ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E23Xa.4.1.1.1">Eq. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Ex1" title="Definition 2.1. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.1</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E23Xa.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E23Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{X}}p(x^{\prime}|[x])\left(\int_{\mathcal{Y}}yp(y|% x^{\prime})\mathrm{d}y\right)\mathrm{d}x^{\prime}" class="ltx_Math" display="inline" id="A1.E23Xb.2.1.1.m1.3"><semantics id="A1.E23Xb.2.1.1.m1.3a"><mrow id="A1.E23Xb.2.1.1.m1.3.3" xref="A1.E23Xb.2.1.1.m1.3.3.cmml"><mi id="A1.E23Xb.2.1.1.m1.3.3.4" xref="A1.E23Xb.2.1.1.m1.3.3.4.cmml"></mi><mo id="A1.E23Xb.2.1.1.m1.3.3.3" xref="A1.E23Xb.2.1.1.m1.3.3.3.cmml">=</mo><mrow id="A1.E23Xb.2.1.1.m1.3.3.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.cmml"><mstyle displaystyle="true" id="A1.E23Xb.2.1.1.m1.3.3.2.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.3.cmml"><msub id="A1.E23Xb.2.1.1.m1.3.3.2.3a" xref="A1.E23Xb.2.1.1.m1.3.3.2.3.cmml"><mo id="A1.E23Xb.2.1.1.m1.3.3.2.3.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E23Xb.2.1.1.m1.3.3.2.3.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.3.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.cmml"><mi id="A1.E23Xb.2.1.1.m1.3.3.2.2.4" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.4.cmml">p</mi><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.2" stretchy="false" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><msup id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mi id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml">x</mi><mo id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.1.cmml">|</mo><mrow id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml"><mo id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E23Xb.2.1.1.m1.1.1" xref="A1.E23Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.3" stretchy="false" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.3a" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml"><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml">(</mo><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml"><mstyle displaystyle="true" id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml"><msub id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2a" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml"><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.cmml"><mi id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3.cmml">y</mi><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2.cmml">⁢</mo><mi id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.cmml">p</mi><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2a" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml"><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.2" stretchy="false" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml"><mi id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.cmml"><mi id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.3" stretchy="false" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2b" lspace="0em" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.cmml"><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.1" rspace="0em" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.1.cmml">d</mo><mi id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.2.cmml">y</mi></mrow></mrow></mrow><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.3b" lspace="0em" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E23Xb.2.1.1.m1.3.3.2.2.5" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.cmml"><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.1" rspace="0em" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.1.cmml">d</mo><msup id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.cmml"><mi id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.2" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.2.cmml">x</mi><mo id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.3" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.3.cmml">′</mo></msup></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E23Xb.2.1.1.m1.3b"><apply id="A1.E23Xb.2.1.1.m1.3.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3"><eq id="A1.E23Xb.2.1.1.m1.3.3.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.3"></eq><csymbol cd="latexml" id="A1.E23Xb.2.1.1.m1.3.3.4.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.4">absent</csymbol><apply id="A1.E23Xb.2.1.1.m1.3.3.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2"><apply id="A1.E23Xb.2.1.1.m1.3.3.2.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.3"><csymbol cd="ambiguous" id="A1.E23Xb.2.1.1.m1.3.3.2.3.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.3">subscript</csymbol><int id="A1.E23Xb.2.1.1.m1.3.3.2.3.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.3.2"></int><ci id="A1.E23Xb.2.1.1.m1.3.3.2.3.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.3.3">𝒳</ci></apply><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2"><times id="A1.E23Xb.2.1.1.m1.3.3.2.2.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.3"></times><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.4.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.4">𝑝</ci><apply id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2">𝑥</ci><ci id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3">′</ci></apply><apply id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E23Xb.2.1.1.m1.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1"><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2">subscript</csymbol><int id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2"></int><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3">𝒴</ci></apply><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1"><times id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2"></times><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3">𝑦</ci><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4">𝑝</ci><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2">𝑦</ci><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3">′</ci></apply></apply><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5"><csymbol cd="latexml" id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.1">differential-d</csymbol><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.2.1.1.1.5.2">𝑦</ci></apply></apply></apply><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5"><csymbol cd="latexml" id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.1">differential-d</csymbol><apply id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2"><csymbol cd="ambiguous" id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.1.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2">superscript</csymbol><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.2.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.2">𝑥</ci><ci id="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.3.cmml" xref="A1.E23Xb.2.1.1.m1.3.3.2.2.5.2.3">′</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E23Xb.2.1.1.m1.3c">\displaystyle=\int_{\mathcal{X}}p(x^{\prime}|[x])\left(\int_{\mathcal{Y}}yp(y|% x^{\prime})\mathrm{d}y\right)\mathrm{d}x^{\prime}</annotation><annotation encoding="application/x-llamapun" id="A1.E23Xb.2.1.1.m1.3d">= ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) ( ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y italic_p ( italic_y | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E23Xb.4.1.1.1">Fubini’s thm.</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E23Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y|X]|[x]]" class="ltx_Math" display="inline" id="A1.E23Xc.2.1.1.m1.2"><semantics id="A1.E23Xc.2.1.1.m1.2a"><mrow id="A1.E23Xc.2.1.1.m1.2.2" xref="A1.E23Xc.2.1.1.m1.2.2.cmml"><mi id="A1.E23Xc.2.1.1.m1.2.2.3" xref="A1.E23Xc.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E23Xc.2.1.1.m1.2.2.2" xref="A1.E23Xc.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E23Xc.2.1.1.m1.2.2.1" xref="A1.E23Xc.2.1.1.m1.2.2.1.cmml"><mi id="A1.E23Xc.2.1.1.m1.2.2.1.3" xref="A1.E23Xc.2.1.1.m1.2.2.1.3.cmml">𝔼</mi><mo id="A1.E23Xc.2.1.1.m1.2.2.1.2" xref="A1.E23Xc.2.1.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="A1.E23Xc.2.1.1.m1.2.2.1.1.1" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.2.cmml"><mo id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.2" stretchy="false" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.cmml"><mrow id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mi id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml"><mo id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.2.cmml">|</mo><mrow id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.2" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.1.cmml"><mo id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.2.1" stretchy="false" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E23Xc.2.1.1.m1.1.1" xref="A1.E23Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.2.2" stretchy="false" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.3" stretchy="false" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E23Xc.2.1.1.m1.2b"><apply id="A1.E23Xc.2.1.1.m1.2.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2"><eq id="A1.E23Xc.2.1.1.m1.2.2.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E23Xc.2.1.1.m1.2.2.3.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E23Xc.2.1.1.m1.2.2.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1"><times id="A1.E23Xc.2.1.1.m1.2.2.1.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.2"></times><ci id="A1.E23Xc.2.1.1.m1.2.2.1.3.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.3">𝔼</ci><apply id="A1.E23Xc.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="A1.E23Xc.2.1.1.m1.2.2.1.1.2.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.2">conditional</csymbol><apply id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1"><times id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.2"></times><ci id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.3">𝔼</ci><apply id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml" xref="A1.E23Xc.2.1.1.m1.2.2.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E23Xc.2.1.1.m1.1.1.cmml" xref="A1.E23Xc.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E23Xc.2.1.1.m1.2c">\displaystyle=\mathbb{E}[\mathbb{E}[Y|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E23Xc.2.1.1.m1.2d">= blackboard_E [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.1.p1.1">The definition of the model variance is:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E24"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E24X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathbb{V}_{\theta}[Y|x]" class="ltx_Math" display="inline" id="A1.E24X.2.1.1.m1.1"><semantics id="A1.E24X.2.1.1.m1.1a"><mrow id="A1.E24X.2.1.1.m1.1.1" xref="A1.E24X.2.1.1.m1.1.1.cmml"><msub id="A1.E24X.2.1.1.m1.1.1.3" xref="A1.E24X.2.1.1.m1.1.1.3.cmml"><mi id="A1.E24X.2.1.1.m1.1.1.3.2" xref="A1.E24X.2.1.1.m1.1.1.3.2.cmml">𝕍</mi><mi id="A1.E24X.2.1.1.m1.1.1.3.3" xref="A1.E24X.2.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E24X.2.1.1.m1.1.1.2" xref="A1.E24X.2.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E24X.2.1.1.m1.1.1.1.1" xref="A1.E24X.2.1.1.m1.1.1.1.2.cmml"><mo id="A1.E24X.2.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E24X.2.1.1.m1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E24X.2.1.1.m1.1.1.1.1.1" xref="A1.E24X.2.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.E24X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E24X.2.1.1.m1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E24X.2.1.1.m1.1.1.1.1.1.1" xref="A1.E24X.2.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E24X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E24X.2.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E24X.2.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E24X.2.1.1.m1.1.1.1.2.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E24X.2.1.1.m1.1b"><apply id="A1.E24X.2.1.1.m1.1.1.cmml" xref="A1.E24X.2.1.1.m1.1.1"><times id="A1.E24X.2.1.1.m1.1.1.2.cmml" xref="A1.E24X.2.1.1.m1.1.1.2"></times><apply id="A1.E24X.2.1.1.m1.1.1.3.cmml" xref="A1.E24X.2.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A1.E24X.2.1.1.m1.1.1.3.1.cmml" xref="A1.E24X.2.1.1.m1.1.1.3">subscript</csymbol><ci id="A1.E24X.2.1.1.m1.1.1.3.2.cmml" xref="A1.E24X.2.1.1.m1.1.1.3.2">𝕍</ci><ci id="A1.E24X.2.1.1.m1.1.1.3.3.cmml" xref="A1.E24X.2.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A1.E24X.2.1.1.m1.1.1.1.2.cmml" xref="A1.E24X.2.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A1.E24X.2.1.1.m1.1.1.1.2.1.cmml" xref="A1.E24X.2.1.1.m1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E24X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E24X.2.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E24X.2.1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E24X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E24X.2.1.1.m1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E24X.2.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E24X.2.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E24X.2.1.1.m1.1c">\displaystyle\mathbb{V}_{\theta}[Y|x]</annotation><annotation encoding="application/x-llamapun" id="A1.E24X.2.1.1.m1.1d">blackboard_V start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}_{\theta}[Y^{2}|x]-\mathbb{E}^{2}_{\theta}[Y|x]" class="ltx_Math" display="inline" id="A1.E24X.3.2.2.m1.2"><semantics id="A1.E24X.3.2.2.m1.2a"><mrow id="A1.E24X.3.2.2.m1.2.2" xref="A1.E24X.3.2.2.m1.2.2.cmml"><mi id="A1.E24X.3.2.2.m1.2.2.4" xref="A1.E24X.3.2.2.m1.2.2.4.cmml"></mi><mo id="A1.E24X.3.2.2.m1.2.2.3" xref="A1.E24X.3.2.2.m1.2.2.3.cmml">=</mo><mrow id="A1.E24X.3.2.2.m1.2.2.2" xref="A1.E24X.3.2.2.m1.2.2.2.cmml"><mrow id="A1.E24X.3.2.2.m1.1.1.1.1" xref="A1.E24X.3.2.2.m1.1.1.1.1.cmml"><msub id="A1.E24X.3.2.2.m1.1.1.1.1.3" xref="A1.E24X.3.2.2.m1.1.1.1.1.3.cmml"><mi id="A1.E24X.3.2.2.m1.1.1.1.1.3.2" xref="A1.E24X.3.2.2.m1.1.1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E24X.3.2.2.m1.1.1.1.1.3.3" xref="A1.E24X.3.2.2.m1.1.1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E24X.3.2.2.m1.1.1.1.1.2" xref="A1.E24X.3.2.2.m1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E24X.3.2.2.m1.1.1.1.1.1.1" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.2.cmml"><mo id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.cmml"><msup id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.2" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.3" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.1" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.3" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E24X.3.2.2.m1.2.2.2.3" xref="A1.E24X.3.2.2.m1.2.2.2.3.cmml">−</mo><mrow id="A1.E24X.3.2.2.m1.2.2.2.2" xref="A1.E24X.3.2.2.m1.2.2.2.2.cmml"><msubsup id="A1.E24X.3.2.2.m1.2.2.2.2.3" xref="A1.E24X.3.2.2.m1.2.2.2.2.3.cmml"><mi id="A1.E24X.3.2.2.m1.2.2.2.2.3.2.2" xref="A1.E24X.3.2.2.m1.2.2.2.2.3.2.2.cmml">𝔼</mi><mi id="A1.E24X.3.2.2.m1.2.2.2.2.3.3" xref="A1.E24X.3.2.2.m1.2.2.2.2.3.3.cmml">θ</mi><mn id="A1.E24X.3.2.2.m1.2.2.2.2.3.2.3" xref="A1.E24X.3.2.2.m1.2.2.2.2.3.2.3.cmml">2</mn></msubsup><mo id="A1.E24X.3.2.2.m1.2.2.2.2.2" xref="A1.E24X.3.2.2.m1.2.2.2.2.2.cmml">⁢</mo><mrow id="A1.E24X.3.2.2.m1.2.2.2.2.1.1" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.2.cmml"><mo id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.2" stretchy="false" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.2.1.cmml">[</mo><mrow id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.cmml"><mi id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.2" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.1" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.1.cmml">|</mo><mi id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.3" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.3" stretchy="false" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E24X.3.2.2.m1.2b"><apply id="A1.E24X.3.2.2.m1.2.2.cmml" xref="A1.E24X.3.2.2.m1.2.2"><eq id="A1.E24X.3.2.2.m1.2.2.3.cmml" xref="A1.E24X.3.2.2.m1.2.2.3"></eq><csymbol cd="latexml" id="A1.E24X.3.2.2.m1.2.2.4.cmml" xref="A1.E24X.3.2.2.m1.2.2.4">absent</csymbol><apply id="A1.E24X.3.2.2.m1.2.2.2.cmml" xref="A1.E24X.3.2.2.m1.2.2.2"><minus id="A1.E24X.3.2.2.m1.2.2.2.3.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.3"></minus><apply id="A1.E24X.3.2.2.m1.1.1.1.1.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1"><times id="A1.E24X.3.2.2.m1.1.1.1.1.2.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.2"></times><apply id="A1.E24X.3.2.2.m1.1.1.1.1.3.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E24X.3.2.2.m1.1.1.1.1.3.1.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.3">subscript</csymbol><ci id="A1.E24X.3.2.2.m1.1.1.1.1.3.2.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.3.2">𝔼</ci><ci id="A1.E24X.3.2.2.m1.1.1.1.1.3.3.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.3.3">𝜃</ci></apply><apply id="A1.E24X.3.2.2.m1.1.1.1.1.1.2.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24X.3.2.2.m1.1.1.1.1.1.2.1.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.1.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml" xref="A1.E24X.3.2.2.m1.1.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply><apply id="A1.E24X.3.2.2.m1.2.2.2.2.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2"><times id="A1.E24X.3.2.2.m1.2.2.2.2.2.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.2"></times><apply id="A1.E24X.3.2.2.m1.2.2.2.2.3.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.3"><csymbol cd="ambiguous" id="A1.E24X.3.2.2.m1.2.2.2.2.3.1.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.3">subscript</csymbol><apply id="A1.E24X.3.2.2.m1.2.2.2.2.3.2.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.3"><csymbol cd="ambiguous" id="A1.E24X.3.2.2.m1.2.2.2.2.3.2.1.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.3">superscript</csymbol><ci id="A1.E24X.3.2.2.m1.2.2.2.2.3.2.2.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.3.2.2">𝔼</ci><cn id="A1.E24X.3.2.2.m1.2.2.2.2.3.2.3.cmml" type="integer" xref="A1.E24X.3.2.2.m1.2.2.2.2.3.2.3">2</cn></apply><ci id="A1.E24X.3.2.2.m1.2.2.2.2.3.3.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.3.3">𝜃</ci></apply><apply id="A1.E24X.3.2.2.m1.2.2.2.2.1.2.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1"><csymbol cd="latexml" id="A1.E24X.3.2.2.m1.2.2.2.2.1.2.1.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1"><csymbol cd="latexml" id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.1.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.1">conditional</csymbol><ci id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.2.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.2">𝑌</ci><ci id="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.3.cmml" xref="A1.E24X.3.2.2.m1.2.2.2.2.1.1.1.3">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E24X.3.2.2.m1.2c">\displaystyle=\mathbb{E}_{\theta}[Y^{2}|x]-\mathbb{E}^{2}_{\theta}[Y|x]</annotation><annotation encoding="application/x-llamapun" id="A1.E24X.3.2.2.m1.2d">= blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_x ] - blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E24X.5.1.1.1">definition of </span><math alttext="\mathbb{V}" class="ltx_markedasmath" display="inline" id="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">𝕍</mi><annotation-xml encoding="MathML-Content" id="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1.1">𝕍</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{V}</annotation><annotation encoding="application/x-llamapun" id="A1.E24.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_V</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="2"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(24)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E24Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]]-\mathbb{E}^{2}[\mathbb{E}[Y|% X]|[x]]" class="ltx_Math" display="inline" id="A1.E24Xa.2.1.1.m1.4"><semantics id="A1.E24Xa.2.1.1.m1.4a"><mrow id="A1.E24Xa.2.1.1.m1.4.4" xref="A1.E24Xa.2.1.1.m1.4.4.cmml"><mi id="A1.E24Xa.2.1.1.m1.4.4.4" xref="A1.E24Xa.2.1.1.m1.4.4.4.cmml"></mi><mo id="A1.E24Xa.2.1.1.m1.4.4.3" xref="A1.E24Xa.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A1.E24Xa.2.1.1.m1.4.4.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.cmml"><mrow id="A1.E24Xa.2.1.1.m1.3.3.1.1" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.cmml"><mi id="A1.E24Xa.2.1.1.m1.3.3.1.1.3" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.2" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><mi id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><msup id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml"><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E24Xa.2.1.1.m1.1.1" xref="A1.E24Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E24Xa.2.1.1.m1.4.4.2.3" xref="A1.E24Xa.2.1.1.m1.4.4.2.3.cmml">−</mo><mrow id="A1.E24Xa.2.1.1.m1.4.4.2.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.cmml"><msup id="A1.E24Xa.2.1.1.m1.4.4.2.2.3" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.3.cmml"><mi id="A1.E24Xa.2.1.1.m1.4.4.2.2.3.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.3.2.cmml">𝔼</mi><mn id="A1.E24Xa.2.1.1.m1.4.4.2.2.3.3" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.3.3.cmml">2</mn></msup><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.2.cmml">⁢</mo><mrow id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.2.cmml"><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.2" stretchy="false" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml">[</mo><mrow id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.cmml"><mrow id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.cmml"><mi id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml"><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><mi id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.2.cmml">|</mo><mrow id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml"><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.1" stretchy="false" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E24Xa.2.1.1.m1.2.2" xref="A1.E24Xa.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.2" stretchy="false" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.3" stretchy="false" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E24Xa.2.1.1.m1.4b"><apply id="A1.E24Xa.2.1.1.m1.4.4.cmml" xref="A1.E24Xa.2.1.1.m1.4.4"><eq id="A1.E24Xa.2.1.1.m1.4.4.3.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.4.4.4.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.4">absent</csymbol><apply id="A1.E24Xa.2.1.1.m1.4.4.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2"><minus id="A1.E24Xa.2.1.1.m1.4.4.2.3.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.3"></minus><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1"><times id="A1.E24Xa.2.1.1.m1.3.3.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.2"></times><ci id="A1.E24Xa.2.1.1.m1.3.3.1.1.3.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><ci id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3">𝔼</ci><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E24Xa.2.1.1.m1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2"><times id="A1.E24Xa.2.1.1.m1.4.4.2.2.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.2"></times><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.3.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.3"><csymbol cd="ambiguous" id="A1.E24Xa.2.1.1.m1.4.4.2.2.3.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.3">superscript</csymbol><ci id="A1.E24Xa.2.1.1.m1.4.4.2.2.3.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.3.2">𝔼</ci><cn id="A1.E24Xa.2.1.1.m1.4.4.2.2.3.3.cmml" type="integer" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.3.3">2</cn></apply><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.2">conditional</csymbol><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1"><times id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2"></times><ci id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3">𝔼</ci><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2"><csymbol cd="latexml" id="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml" xref="A1.E24Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E24Xa.2.1.1.m1.2.2.cmml" xref="A1.E24Xa.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E24Xa.2.1.1.m1.4c">\displaystyle=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]]-\mathbb{E}^{2}[\mathbb{E}[Y|% X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E24Xa.2.1.1.m1.4d">= blackboard_E [ blackboard_E [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] ] - blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E24Xa.4.1.1.1">as for Eq. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#A1.E23" title="Equation 23 ‣ Proof of theorem 2.2. ‣ Appendix A Proofs of the theorems ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">23</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E24Xa.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.1.p1.2">Furthermore, by the definition of variance and the linearity of expectation:</p> <table class="ltx_equation ltx_eqn_table" id="A1.E25"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathbb{E}[\mathbb{V}[Y|X]|[x]]=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]]-\mathbb{E}% [\mathbb{E}^{2}[Y|X]|[x]]" class="ltx_Math" display="block" id="A1.E25.m1.6"><semantics id="A1.E25.m1.6a"><mrow id="A1.E25.m1.6.6" xref="A1.E25.m1.6.6.cmml"><mrow id="A1.E25.m1.4.4.1" xref="A1.E25.m1.4.4.1.cmml"><mi id="A1.E25.m1.4.4.1.3" xref="A1.E25.m1.4.4.1.3.cmml">𝔼</mi><mo id="A1.E25.m1.4.4.1.2" xref="A1.E25.m1.4.4.1.2.cmml">⁢</mo><mrow id="A1.E25.m1.4.4.1.1.1" xref="A1.E25.m1.4.4.1.1.2.cmml"><mo id="A1.E25.m1.4.4.1.1.1.2" stretchy="false" xref="A1.E25.m1.4.4.1.1.2.1.cmml">[</mo><mrow id="A1.E25.m1.4.4.1.1.1.1" xref="A1.E25.m1.4.4.1.1.1.1.cmml"><mrow id="A1.E25.m1.4.4.1.1.1.1.1" xref="A1.E25.m1.4.4.1.1.1.1.1.cmml"><mi id="A1.E25.m1.4.4.1.1.1.1.1.3" xref="A1.E25.m1.4.4.1.1.1.1.1.3.cmml">𝕍</mi><mo id="A1.E25.m1.4.4.1.1.1.1.1.2" xref="A1.E25.m1.4.4.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E25.m1.4.4.1.1.1.1.1.1.1" xref="A1.E25.m1.4.4.1.1.1.1.1.1.2.cmml"><mo id="A1.E25.m1.4.4.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E25.m1.4.4.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.2" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.1" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.3" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E25.m1.4.4.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E25.m1.4.4.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E25.m1.4.4.1.1.1.1.2" xref="A1.E25.m1.4.4.1.1.1.1.2.cmml">|</mo><mrow id="A1.E25.m1.4.4.1.1.1.1.3.2" xref="A1.E25.m1.4.4.1.1.1.1.3.1.cmml"><mo id="A1.E25.m1.4.4.1.1.1.1.3.2.1" stretchy="false" xref="A1.E25.m1.4.4.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E25.m1.1.1" xref="A1.E25.m1.1.1.cmml">x</mi><mo id="A1.E25.m1.4.4.1.1.1.1.3.2.2" stretchy="false" xref="A1.E25.m1.4.4.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E25.m1.4.4.1.1.1.3" stretchy="false" xref="A1.E25.m1.4.4.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E25.m1.6.6.4" xref="A1.E25.m1.6.6.4.cmml">=</mo><mrow id="A1.E25.m1.6.6.3" xref="A1.E25.m1.6.6.3.cmml"><mrow id="A1.E25.m1.5.5.2.1" xref="A1.E25.m1.5.5.2.1.cmml"><mi id="A1.E25.m1.5.5.2.1.3" xref="A1.E25.m1.5.5.2.1.3.cmml">𝔼</mi><mo id="A1.E25.m1.5.5.2.1.2" xref="A1.E25.m1.5.5.2.1.2.cmml">⁢</mo><mrow id="A1.E25.m1.5.5.2.1.1.1" xref="A1.E25.m1.5.5.2.1.1.2.cmml"><mo id="A1.E25.m1.5.5.2.1.1.1.2" stretchy="false" xref="A1.E25.m1.5.5.2.1.1.2.1.cmml">[</mo><mrow id="A1.E25.m1.5.5.2.1.1.1.1" xref="A1.E25.m1.5.5.2.1.1.1.1.cmml"><mrow id="A1.E25.m1.5.5.2.1.1.1.1.1" xref="A1.E25.m1.5.5.2.1.1.1.1.1.cmml"><mi id="A1.E25.m1.5.5.2.1.1.1.1.1.3" xref="A1.E25.m1.5.5.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E25.m1.5.5.2.1.1.1.1.1.2" xref="A1.E25.m1.5.5.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.2.cmml"><mo id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.cmml"><msup id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.2" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.3" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.1" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.3" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E25.m1.5.5.2.1.1.1.1.2" xref="A1.E25.m1.5.5.2.1.1.1.1.2.cmml">|</mo><mrow id="A1.E25.m1.5.5.2.1.1.1.1.3.2" xref="A1.E25.m1.5.5.2.1.1.1.1.3.1.cmml"><mo id="A1.E25.m1.5.5.2.1.1.1.1.3.2.1" stretchy="false" xref="A1.E25.m1.5.5.2.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E25.m1.2.2" xref="A1.E25.m1.2.2.cmml">x</mi><mo id="A1.E25.m1.5.5.2.1.1.1.1.3.2.2" stretchy="false" xref="A1.E25.m1.5.5.2.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E25.m1.5.5.2.1.1.1.3" stretchy="false" xref="A1.E25.m1.5.5.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E25.m1.6.6.3.3" xref="A1.E25.m1.6.6.3.3.cmml">−</mo><mrow id="A1.E25.m1.6.6.3.2" xref="A1.E25.m1.6.6.3.2.cmml"><mi id="A1.E25.m1.6.6.3.2.3" xref="A1.E25.m1.6.6.3.2.3.cmml">𝔼</mi><mo id="A1.E25.m1.6.6.3.2.2" xref="A1.E25.m1.6.6.3.2.2.cmml">⁢</mo><mrow id="A1.E25.m1.6.6.3.2.1.1" xref="A1.E25.m1.6.6.3.2.1.2.cmml"><mo id="A1.E25.m1.6.6.3.2.1.1.2" stretchy="false" xref="A1.E25.m1.6.6.3.2.1.2.1.cmml">[</mo><mrow id="A1.E25.m1.6.6.3.2.1.1.1" xref="A1.E25.m1.6.6.3.2.1.1.1.cmml"><mrow id="A1.E25.m1.6.6.3.2.1.1.1.1" xref="A1.E25.m1.6.6.3.2.1.1.1.1.cmml"><msup id="A1.E25.m1.6.6.3.2.1.1.1.1.3" xref="A1.E25.m1.6.6.3.2.1.1.1.1.3.cmml"><mi id="A1.E25.m1.6.6.3.2.1.1.1.1.3.2" xref="A1.E25.m1.6.6.3.2.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A1.E25.m1.6.6.3.2.1.1.1.1.3.3" xref="A1.E25.m1.6.6.3.2.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A1.E25.m1.6.6.3.2.1.1.1.1.2" xref="A1.E25.m1.6.6.3.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.2.cmml"><mo id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.cmml"><mi id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.2" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.1" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.3" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E25.m1.6.6.3.2.1.1.1.2" xref="A1.E25.m1.6.6.3.2.1.1.1.2.cmml">|</mo><mrow id="A1.E25.m1.6.6.3.2.1.1.1.3.2" xref="A1.E25.m1.6.6.3.2.1.1.1.3.1.cmml"><mo id="A1.E25.m1.6.6.3.2.1.1.1.3.2.1" stretchy="false" xref="A1.E25.m1.6.6.3.2.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E25.m1.3.3" xref="A1.E25.m1.3.3.cmml">x</mi><mo id="A1.E25.m1.6.6.3.2.1.1.1.3.2.2" stretchy="false" xref="A1.E25.m1.6.6.3.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E25.m1.6.6.3.2.1.1.3" stretchy="false" xref="A1.E25.m1.6.6.3.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E25.m1.6b"><apply id="A1.E25.m1.6.6.cmml" xref="A1.E25.m1.6.6"><eq id="A1.E25.m1.6.6.4.cmml" xref="A1.E25.m1.6.6.4"></eq><apply id="A1.E25.m1.4.4.1.cmml" xref="A1.E25.m1.4.4.1"><times id="A1.E25.m1.4.4.1.2.cmml" xref="A1.E25.m1.4.4.1.2"></times><ci id="A1.E25.m1.4.4.1.3.cmml" xref="A1.E25.m1.4.4.1.3">𝔼</ci><apply id="A1.E25.m1.4.4.1.1.2.cmml" xref="A1.E25.m1.4.4.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.4.4.1.1.2.1.cmml" xref="A1.E25.m1.4.4.1.1.1.2">delimited-[]</csymbol><apply id="A1.E25.m1.4.4.1.1.1.1.cmml" xref="A1.E25.m1.4.4.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.4.4.1.1.1.1.2.cmml" xref="A1.E25.m1.4.4.1.1.1.1.2">conditional</csymbol><apply id="A1.E25.m1.4.4.1.1.1.1.1.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1"><times id="A1.E25.m1.4.4.1.1.1.1.1.2.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.2"></times><ci id="A1.E25.m1.4.4.1.1.1.1.1.3.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.3">𝕍</ci><apply id="A1.E25.m1.4.4.1.1.1.1.1.1.2.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.4.4.1.1.1.1.1.1.2.1.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E25.m1.4.4.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E25.m1.4.4.1.1.1.1.3.1.cmml" xref="A1.E25.m1.4.4.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E25.m1.4.4.1.1.1.1.3.1.1.cmml" xref="A1.E25.m1.4.4.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E25.m1.1.1.cmml" xref="A1.E25.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E25.m1.6.6.3.cmml" xref="A1.E25.m1.6.6.3"><minus id="A1.E25.m1.6.6.3.3.cmml" xref="A1.E25.m1.6.6.3.3"></minus><apply id="A1.E25.m1.5.5.2.1.cmml" xref="A1.E25.m1.5.5.2.1"><times id="A1.E25.m1.5.5.2.1.2.cmml" xref="A1.E25.m1.5.5.2.1.2"></times><ci id="A1.E25.m1.5.5.2.1.3.cmml" xref="A1.E25.m1.5.5.2.1.3">𝔼</ci><apply id="A1.E25.m1.5.5.2.1.1.2.cmml" xref="A1.E25.m1.5.5.2.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.5.5.2.1.1.2.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.E25.m1.5.5.2.1.1.1.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.5.5.2.1.1.1.1.2.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.2">conditional</csymbol><apply id="A1.E25.m1.5.5.2.1.1.1.1.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1"><times id="A1.E25.m1.5.5.2.1.1.1.1.1.2.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.2"></times><ci id="A1.E25.m1.5.5.2.1.1.1.1.1.3.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.3">𝔼</ci><apply id="A1.E25.m1.5.5.2.1.1.1.1.1.1.2.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.5.5.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E25.m1.5.5.2.1.1.1.1.3.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E25.m1.5.5.2.1.1.1.1.3.1.1.cmml" xref="A1.E25.m1.5.5.2.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E25.m1.2.2.cmml" xref="A1.E25.m1.2.2">𝑥</ci></apply></apply></apply></apply><apply id="A1.E25.m1.6.6.3.2.cmml" xref="A1.E25.m1.6.6.3.2"><times id="A1.E25.m1.6.6.3.2.2.cmml" xref="A1.E25.m1.6.6.3.2.2"></times><ci id="A1.E25.m1.6.6.3.2.3.cmml" xref="A1.E25.m1.6.6.3.2.3">𝔼</ci><apply id="A1.E25.m1.6.6.3.2.1.2.cmml" xref="A1.E25.m1.6.6.3.2.1.1"><csymbol cd="latexml" id="A1.E25.m1.6.6.3.2.1.2.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.2">delimited-[]</csymbol><apply id="A1.E25.m1.6.6.3.2.1.1.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.6.6.3.2.1.1.1.2.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.2">conditional</csymbol><apply id="A1.E25.m1.6.6.3.2.1.1.1.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1"><times id="A1.E25.m1.6.6.3.2.1.1.1.1.2.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.2"></times><apply id="A1.E25.m1.6.6.3.2.1.1.1.1.3.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E25.m1.6.6.3.2.1.1.1.1.3.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.3">superscript</csymbol><ci id="A1.E25.m1.6.6.3.2.1.1.1.1.3.2.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.3.2">𝔼</ci><cn id="A1.E25.m1.6.6.3.2.1.1.1.1.3.3.cmml" type="integer" xref="A1.E25.m1.6.6.3.2.1.1.1.1.3.3">2</cn></apply><apply id="A1.E25.m1.6.6.3.2.1.1.1.1.1.2.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.6.6.3.2.1.1.1.1.1.2.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E25.m1.6.6.3.2.1.1.1.3.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.3.2"><csymbol cd="latexml" id="A1.E25.m1.6.6.3.2.1.1.1.3.1.1.cmml" xref="A1.E25.m1.6.6.3.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E25.m1.3.3.cmml" xref="A1.E25.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E25.m1.6c">\mathbb{E}[\mathbb{V}[Y|X]|[x]]=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]]-\mathbb{E}% [\mathbb{E}^{2}[Y|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E25.m1.6d">blackboard_E [ blackboard_V [ italic_Y | italic_X ] | [ italic_x ] ] = blackboard_E [ blackboard_E [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] ] - blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(25)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A1.1.p1.3">Substituting Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A1.E25" title="Equation 25 ‣ Proof of theorem 2.2. ‣ Appendix A Proofs of the theorems ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">25</span></a>) into Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A1.E24" title="Equation 24 ‣ Proof of theorem 2.2. ‣ Appendix A Proofs of the theorems ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">24</span></a>) yields:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E26"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E26X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathbb{V}_{\theta}[Y|x]" class="ltx_Math" display="inline" id="A1.E26X.2.1.1.m1.1"><semantics id="A1.E26X.2.1.1.m1.1a"><mrow id="A1.E26X.2.1.1.m1.1.1" xref="A1.E26X.2.1.1.m1.1.1.cmml"><msub id="A1.E26X.2.1.1.m1.1.1.3" xref="A1.E26X.2.1.1.m1.1.1.3.cmml"><mi id="A1.E26X.2.1.1.m1.1.1.3.2" xref="A1.E26X.2.1.1.m1.1.1.3.2.cmml">𝕍</mi><mi id="A1.E26X.2.1.1.m1.1.1.3.3" xref="A1.E26X.2.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E26X.2.1.1.m1.1.1.2" xref="A1.E26X.2.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E26X.2.1.1.m1.1.1.1.1" xref="A1.E26X.2.1.1.m1.1.1.1.2.cmml"><mo id="A1.E26X.2.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E26X.2.1.1.m1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26X.2.1.1.m1.1.1.1.1.1" xref="A1.E26X.2.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.E26X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E26X.2.1.1.m1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E26X.2.1.1.m1.1.1.1.1.1.1" xref="A1.E26X.2.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E26X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E26X.2.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E26X.2.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E26X.2.1.1.m1.1.1.1.2.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E26X.2.1.1.m1.1b"><apply id="A1.E26X.2.1.1.m1.1.1.cmml" xref="A1.E26X.2.1.1.m1.1.1"><times id="A1.E26X.2.1.1.m1.1.1.2.cmml" xref="A1.E26X.2.1.1.m1.1.1.2"></times><apply id="A1.E26X.2.1.1.m1.1.1.3.cmml" xref="A1.E26X.2.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A1.E26X.2.1.1.m1.1.1.3.1.cmml" xref="A1.E26X.2.1.1.m1.1.1.3">subscript</csymbol><ci id="A1.E26X.2.1.1.m1.1.1.3.2.cmml" xref="A1.E26X.2.1.1.m1.1.1.3.2">𝕍</ci><ci id="A1.E26X.2.1.1.m1.1.1.3.3.cmml" xref="A1.E26X.2.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A1.E26X.2.1.1.m1.1.1.1.2.cmml" xref="A1.E26X.2.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.2.1.1.m1.1.1.1.2.1.cmml" xref="A1.E26X.2.1.1.m1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E26X.2.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E26X.2.1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E26X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E26X.2.1.1.m1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E26X.2.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E26X.2.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E26X.2.1.1.m1.1c">\displaystyle\mathbb{V}_{\theta}[Y|x]</annotation><annotation encoding="application/x-llamapun" id="A1.E26X.2.1.1.m1.1d">blackboard_V start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{V}[Y|X]|[x]]+\mathbb{E}[\mathbb{E}^{2}[Y|X]|[% x]]-\mathbb{E}^{2}[\mathbb{E}[Y|X]|[x]]" class="ltx_Math" display="inline" id="A1.E26X.3.2.2.m1.6"><semantics id="A1.E26X.3.2.2.m1.6a"><mrow id="A1.E26X.3.2.2.m1.6.6" xref="A1.E26X.3.2.2.m1.6.6.cmml"><mi id="A1.E26X.3.2.2.m1.6.6.5" xref="A1.E26X.3.2.2.m1.6.6.5.cmml"></mi><mo id="A1.E26X.3.2.2.m1.6.6.4" xref="A1.E26X.3.2.2.m1.6.6.4.cmml">=</mo><mrow id="A1.E26X.3.2.2.m1.6.6.3" xref="A1.E26X.3.2.2.m1.6.6.3.cmml"><mrow id="A1.E26X.3.2.2.m1.5.5.2.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.cmml"><mrow id="A1.E26X.3.2.2.m1.4.4.1.1.1" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.cmml"><mi id="A1.E26X.3.2.2.m1.4.4.1.1.1.3" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.3.cmml">𝔼</mi><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.2" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.2.cmml">⁢</mo><mrow id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.2.cmml"><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.2" stretchy="false" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.cmml"><mrow id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.cmml"><mi id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.3" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.3.cmml">𝕍</mi><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.2" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.2" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.3" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.2" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.2" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.1.cmml"><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E26X.3.2.2.m1.1.1" xref="A1.E26X.3.2.2.m1.1.1.cmml">x</mi><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.3" stretchy="false" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E26X.3.2.2.m1.5.5.2.2.3" xref="A1.E26X.3.2.2.m1.5.5.2.2.3.cmml">+</mo><mrow id="A1.E26X.3.2.2.m1.5.5.2.2.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.cmml"><mi id="A1.E26X.3.2.2.m1.5.5.2.2.2.3" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.3.cmml">𝔼</mi><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.2.cmml">⁢</mo><mrow id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.2.cmml"><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.2" stretchy="false" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.2.1.cmml">[</mo><mrow id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.cmml"><mrow id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.cmml"><msup id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.cmml"><mi id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.3" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.2.cmml"><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.cmml"><mi id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.3" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.2.cmml">|</mo><mrow id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.2" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.1.cmml"><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.2.1" stretchy="false" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E26X.3.2.2.m1.2.2" xref="A1.E26X.3.2.2.m1.2.2.cmml">x</mi><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.2.2" stretchy="false" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.3" stretchy="false" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="A1.E26X.3.2.2.m1.6.6.3.4" xref="A1.E26X.3.2.2.m1.6.6.3.4.cmml">−</mo><mrow id="A1.E26X.3.2.2.m1.6.6.3.3" xref="A1.E26X.3.2.2.m1.6.6.3.3.cmml"><msup id="A1.E26X.3.2.2.m1.6.6.3.3.3" xref="A1.E26X.3.2.2.m1.6.6.3.3.3.cmml"><mi id="A1.E26X.3.2.2.m1.6.6.3.3.3.2" xref="A1.E26X.3.2.2.m1.6.6.3.3.3.2.cmml">𝔼</mi><mn id="A1.E26X.3.2.2.m1.6.6.3.3.3.3" xref="A1.E26X.3.2.2.m1.6.6.3.3.3.3.cmml">2</mn></msup><mo id="A1.E26X.3.2.2.m1.6.6.3.3.2" xref="A1.E26X.3.2.2.m1.6.6.3.3.2.cmml">⁢</mo><mrow id="A1.E26X.3.2.2.m1.6.6.3.3.1.1" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.2.cmml"><mo id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.2" stretchy="false" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.2.1.cmml">[</mo><mrow id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.cmml"><mrow id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.cmml"><mi id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.3" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.2" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.2.cmml"><mo id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.2" stretchy="false" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.cmml"><mi id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.2" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.1" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.3" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.3" stretchy="false" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.2" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.2.cmml">|</mo><mrow id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.2" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.1.cmml"><mo id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.2.1" stretchy="false" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E26X.3.2.2.m1.3.3" xref="A1.E26X.3.2.2.m1.3.3.cmml">x</mi><mo id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.2.2" stretchy="false" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.3" stretchy="false" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E26X.3.2.2.m1.6b"><apply id="A1.E26X.3.2.2.m1.6.6.cmml" xref="A1.E26X.3.2.2.m1.6.6"><eq id="A1.E26X.3.2.2.m1.6.6.4.cmml" xref="A1.E26X.3.2.2.m1.6.6.4"></eq><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.6.6.5.cmml" xref="A1.E26X.3.2.2.m1.6.6.5">absent</csymbol><apply id="A1.E26X.3.2.2.m1.6.6.3.cmml" xref="A1.E26X.3.2.2.m1.6.6.3"><minus id="A1.E26X.3.2.2.m1.6.6.3.4.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.4"></minus><apply id="A1.E26X.3.2.2.m1.5.5.2.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2"><plus id="A1.E26X.3.2.2.m1.5.5.2.2.3.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.3"></plus><apply id="A1.E26X.3.2.2.m1.4.4.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1"><times id="A1.E26X.3.2.2.m1.4.4.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.2"></times><ci id="A1.E26X.3.2.2.m1.4.4.1.1.1.3.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.3">𝔼</ci><apply id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.2.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1"><times id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.2"></times><ci id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.3.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.3">𝕍</ci><apply id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.1.1.cmml" xref="A1.E26X.3.2.2.m1.4.4.1.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E26X.3.2.2.m1.1.1.cmml" xref="A1.E26X.3.2.2.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2"><times id="A1.E26X.3.2.2.m1.5.5.2.2.2.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.2"></times><ci id="A1.E26X.3.2.2.m1.5.5.2.2.2.3.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.3">𝔼</ci><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.2.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.2">conditional</csymbol><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1"><times id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.2"></times><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3">superscript</csymbol><ci id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.2">𝔼</ci><cn id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.3.cmml" type="integer" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.3.3">2</cn></apply><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.2"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.1.1.cmml" xref="A1.E26X.3.2.2.m1.5.5.2.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E26X.3.2.2.m1.2.2.cmml" xref="A1.E26X.3.2.2.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply><apply id="A1.E26X.3.2.2.m1.6.6.3.3.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3"><times id="A1.E26X.3.2.2.m1.6.6.3.3.2.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.2"></times><apply id="A1.E26X.3.2.2.m1.6.6.3.3.3.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.3"><csymbol cd="ambiguous" id="A1.E26X.3.2.2.m1.6.6.3.3.3.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.3">superscript</csymbol><ci id="A1.E26X.3.2.2.m1.6.6.3.3.3.2.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.3.2">𝔼</ci><cn id="A1.E26X.3.2.2.m1.6.6.3.3.3.3.cmml" type="integer" xref="A1.E26X.3.2.2.m1.6.6.3.3.3.3">2</cn></apply><apply id="A1.E26X.3.2.2.m1.6.6.3.3.1.2.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.6.6.3.3.1.2.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.2">delimited-[]</csymbol><apply id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.2">conditional</csymbol><apply id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1"><times id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.2"></times><ci id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.3.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.3">𝔼</ci><apply id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.2.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.3.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.2"><csymbol cd="latexml" id="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.1.1.cmml" xref="A1.E26X.3.2.2.m1.6.6.3.3.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E26X.3.2.2.m1.3.3.cmml" xref="A1.E26X.3.2.2.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E26X.3.2.2.m1.6c">\displaystyle=\mathbb{E}[\mathbb{V}[Y|X]|[x]]+\mathbb{E}[\mathbb{E}^{2}[Y|X]|[% x]]-\mathbb{E}^{2}[\mathbb{E}[Y|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E26X.3.2.2.m1.6d">= blackboard_E [ blackboard_V [ italic_Y | italic_X ] | [ italic_x ] ] + blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y | italic_X ] | [ italic_x ] ] - blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="2"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(26)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E26Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{V}[Y|X]|[x]]+\mathbb{V}[\mathbb{E}[Y|X]|[x]]" class="ltx_Math" display="inline" id="A1.E26Xa.2.1.1.m1.4"><semantics id="A1.E26Xa.2.1.1.m1.4a"><mrow id="A1.E26Xa.2.1.1.m1.4.4" xref="A1.E26Xa.2.1.1.m1.4.4.cmml"><mi id="A1.E26Xa.2.1.1.m1.4.4.4" xref="A1.E26Xa.2.1.1.m1.4.4.4.cmml"></mi><mo id="A1.E26Xa.2.1.1.m1.4.4.3" xref="A1.E26Xa.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A1.E26Xa.2.1.1.m1.4.4.2" xref="A1.E26Xa.2.1.1.m1.4.4.2.cmml"><mrow id="A1.E26Xa.2.1.1.m1.3.3.1.1" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.cmml"><mi id="A1.E26Xa.2.1.1.m1.3.3.1.1.3" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.2" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><mi id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml">𝕍</mi><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml"><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E26Xa.2.1.1.m1.1.1" xref="A1.E26Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E26Xa.2.1.1.m1.4.4.2.3" xref="A1.E26Xa.2.1.1.m1.4.4.2.3.cmml">+</mo><mrow id="A1.E26Xa.2.1.1.m1.4.4.2.2" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.cmml"><mi id="A1.E26Xa.2.1.1.m1.4.4.2.2.3" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.3.cmml">𝕍</mi><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.2" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.2.cmml">⁢</mo><mrow id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.2.cmml"><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.2" stretchy="false" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml">[</mo><mrow id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.cmml"><mrow id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.cmml"><mi id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml"><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><mi id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.2" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.2.cmml">|</mo><mrow id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml"><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.1" stretchy="false" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E26Xa.2.1.1.m1.2.2" xref="A1.E26Xa.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.2" stretchy="false" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.3" stretchy="false" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E26Xa.2.1.1.m1.4b"><apply id="A1.E26Xa.2.1.1.m1.4.4.cmml" xref="A1.E26Xa.2.1.1.m1.4.4"><eq id="A1.E26Xa.2.1.1.m1.4.4.3.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.4.4.4.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.4">absent</csymbol><apply id="A1.E26Xa.2.1.1.m1.4.4.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2"><plus id="A1.E26Xa.2.1.1.m1.4.4.2.3.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.3"></plus><apply id="A1.E26Xa.2.1.1.m1.3.3.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1"><times id="A1.E26Xa.2.1.1.m1.3.3.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.2"></times><ci id="A1.E26Xa.2.1.1.m1.3.3.1.1.3.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><ci id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3">𝕍</ci><apply id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E26Xa.2.1.1.m1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E26Xa.2.1.1.m1.4.4.2.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2"><times id="A1.E26Xa.2.1.1.m1.4.4.2.2.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.2"></times><ci id="A1.E26Xa.2.1.1.m1.4.4.2.2.3.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.3">𝕍</ci><apply id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.2">conditional</csymbol><apply id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1"><times id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2"></times><ci id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3">𝔼</ci><apply id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2"><csymbol cd="latexml" id="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml" xref="A1.E26Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E26Xa.2.1.1.m1.2.2.cmml" xref="A1.E26Xa.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E26Xa.2.1.1.m1.4c">\displaystyle=\mathbb{E}[\mathbb{V}[Y|X]|[x]]+\mathbb{V}[\mathbb{E}[Y|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E26Xa.2.1.1.m1.4d">= blackboard_E [ blackboard_V [ italic_Y | italic_X ] | [ italic_x ] ] + blackboard_V [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E26Xa.4.1.1.1">definition of </span><math alttext="\mathbb{V}" class="ltx_markedasmath" display="inline" id="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">𝕍</mi><annotation-xml encoding="MathML-Content" id="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1.1">𝕍</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{V}</annotation><annotation encoding="application/x-llamapun" id="A1.E26.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_V</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.1.p1.4">∎</p> </div> </div> <div class="ltx_proof" id="A1.2"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of theorem <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem4" title="Theorem 2.4. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.4</span></a>.</h6> <div class="ltx_para" id="A1.2.p1"> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E27"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E27X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="A1.E27X.2.1.1.m1.1"><semantics id="A1.E27X.2.1.1.m1.1a"><mrow id="A1.E27X.2.1.1.m1.1.1" xref="A1.E27X.2.1.1.m1.1.1.cmml"><msub id="A1.E27X.2.1.1.m1.1.1.3" xref="A1.E27X.2.1.1.m1.1.1.3.cmml"><mi id="A1.E27X.2.1.1.m1.1.1.3.2" xref="A1.E27X.2.1.1.m1.1.1.3.2.cmml">p</mi><mi id="A1.E27X.2.1.1.m1.1.1.3.3" xref="A1.E27X.2.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E27X.2.1.1.m1.1.1.2" xref="A1.E27X.2.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E27X.2.1.1.m1.1.1.1.1" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.cmml"><mo id="A1.E27X.2.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E27X.2.1.1.m1.1.1.1.1.1" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.cmml"><msub id="A1.E27X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.2.cmml"><mi id="A1.E27X.2.1.1.m1.1.1.1.1.1.2.2" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E27X.2.1.1.m1.1.1.1.1.1.2.3" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E27X.2.1.1.m1.1.1.1.1.1.1" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E27X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E27X.2.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E27X.2.1.1.m1.1b"><apply id="A1.E27X.2.1.1.m1.1.1.cmml" xref="A1.E27X.2.1.1.m1.1.1"><times id="A1.E27X.2.1.1.m1.1.1.2.cmml" xref="A1.E27X.2.1.1.m1.1.1.2"></times><apply id="A1.E27X.2.1.1.m1.1.1.3.cmml" xref="A1.E27X.2.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A1.E27X.2.1.1.m1.1.1.3.1.cmml" xref="A1.E27X.2.1.1.m1.1.1.3">subscript</csymbol><ci id="A1.E27X.2.1.1.m1.1.1.3.2.cmml" xref="A1.E27X.2.1.1.m1.1.1.3.2">𝑝</ci><ci id="A1.E27X.2.1.1.m1.1.1.3.3.cmml" xref="A1.E27X.2.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A1.E27X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E27X.2.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A1.E27X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E27X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E27X.2.1.1.m1.1.1.1.1.1.2.1.cmml" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E27X.2.1.1.m1.1.1.1.1.1.2.2.cmml" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E27X.2.1.1.m1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E27X.2.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E27X.2.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E27X.2.1.1.m1.1c">\displaystyle p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="A1.E27X.2.1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\triangleq\int_{\mathcal{Y}}p_{\theta}(y_{1},y_{2}|x)\mathrm{d}y_% {2}" class="ltx_Math" display="inline" id="A1.E27X.3.2.2.m1.2"><semantics id="A1.E27X.3.2.2.m1.2a"><mrow id="A1.E27X.3.2.2.m1.2.2" xref="A1.E27X.3.2.2.m1.2.2.cmml"><mi id="A1.E27X.3.2.2.m1.2.2.4" xref="A1.E27X.3.2.2.m1.2.2.4.cmml"></mi><mo id="A1.E27X.3.2.2.m1.2.2.3" xref="A1.E27X.3.2.2.m1.2.2.3.cmml">≜</mo><mrow id="A1.E27X.3.2.2.m1.2.2.2" xref="A1.E27X.3.2.2.m1.2.2.2.cmml"><mstyle displaystyle="true" id="A1.E27X.3.2.2.m1.2.2.2.3" xref="A1.E27X.3.2.2.m1.2.2.2.3.cmml"><msub id="A1.E27X.3.2.2.m1.2.2.2.3a" xref="A1.E27X.3.2.2.m1.2.2.2.3.cmml"><mo id="A1.E27X.3.2.2.m1.2.2.2.3.2" xref="A1.E27X.3.2.2.m1.2.2.2.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E27X.3.2.2.m1.2.2.2.3.3" xref="A1.E27X.3.2.2.m1.2.2.2.3.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E27X.3.2.2.m1.2.2.2.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.cmml"><msub id="A1.E27X.3.2.2.m1.2.2.2.2.4" xref="A1.E27X.3.2.2.m1.2.2.2.2.4.cmml"><mi id="A1.E27X.3.2.2.m1.2.2.2.2.4.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.4.2.cmml">p</mi><mi id="A1.E27X.3.2.2.m1.2.2.2.2.4.3" xref="A1.E27X.3.2.2.m1.2.2.2.2.4.3.cmml">θ</mi></msub><mo id="A1.E27X.3.2.2.m1.2.2.2.2.3" xref="A1.E27X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E27X.3.2.2.m1.2.2.2.2.2.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.3.cmml"><mo id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.3" stretchy="false" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.3.cmml">(</mo><msub id="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1" xref="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.cmml"><mi id="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.2" xref="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.3" xref="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.4" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.3.cmml">,</mo><mrow id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.cmml"><msub id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.cmml"><mi id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.2.cmml">y</mi><mn id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.3" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.1" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.1.cmml">|</mo><mi id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.3" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.5" stretchy="false" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.3.cmml">)</mo></mrow><mo id="A1.E27X.3.2.2.m1.2.2.2.2.3a" lspace="0em" xref="A1.E27X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E27X.3.2.2.m1.2.2.2.2.5" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.cmml"><mo id="A1.E27X.3.2.2.m1.2.2.2.2.5.1" rspace="0em" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.1.cmml">d</mo><msub id="A1.E27X.3.2.2.m1.2.2.2.2.5.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.2.cmml"><mi id="A1.E27X.3.2.2.m1.2.2.2.2.5.2.2" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.2.2.cmml">y</mi><mn id="A1.E27X.3.2.2.m1.2.2.2.2.5.2.3" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E27X.3.2.2.m1.2b"><apply id="A1.E27X.3.2.2.m1.2.2.cmml" xref="A1.E27X.3.2.2.m1.2.2"><ci id="A1.E27X.3.2.2.m1.2.2.3.cmml" xref="A1.E27X.3.2.2.m1.2.2.3">≜</ci><csymbol cd="latexml" id="A1.E27X.3.2.2.m1.2.2.4.cmml" xref="A1.E27X.3.2.2.m1.2.2.4">absent</csymbol><apply id="A1.E27X.3.2.2.m1.2.2.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2"><apply id="A1.E27X.3.2.2.m1.2.2.2.3.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.3"><csymbol cd="ambiguous" id="A1.E27X.3.2.2.m1.2.2.2.3.1.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.3">subscript</csymbol><int id="A1.E27X.3.2.2.m1.2.2.2.3.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.3.2"></int><ci id="A1.E27X.3.2.2.m1.2.2.2.3.3.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.3.3">𝒴</ci></apply><apply id="A1.E27X.3.2.2.m1.2.2.2.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2"><times id="A1.E27X.3.2.2.m1.2.2.2.2.3.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.3"></times><apply id="A1.E27X.3.2.2.m1.2.2.2.2.4.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.4"><csymbol cd="ambiguous" id="A1.E27X.3.2.2.m1.2.2.2.2.4.1.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.4">subscript</csymbol><ci id="A1.E27X.3.2.2.m1.2.2.2.2.4.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.4.2">𝑝</ci><ci id="A1.E27X.3.2.2.m1.2.2.2.2.4.3.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.4.3">𝜃</ci></apply><interval closure="open" id="A1.E27X.3.2.2.m1.2.2.2.2.2.3.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2"><apply id="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.cmml" xref="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.1.cmml" xref="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml" xref="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E27X.3.2.2.m1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2"><csymbol cd="latexml" id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.1.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.1">conditional</csymbol><apply id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.1.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2">subscript</csymbol><ci id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.2">𝑦</ci><cn id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.3.cmml" type="integer" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.2.3">2</cn></apply><ci id="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.3.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.2.2.2.3">𝑥</ci></apply></interval><apply id="A1.E27X.3.2.2.m1.2.2.2.2.5.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.5"><csymbol cd="latexml" id="A1.E27X.3.2.2.m1.2.2.2.2.5.1.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.1">differential-d</csymbol><apply id="A1.E27X.3.2.2.m1.2.2.2.2.5.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.2"><csymbol cd="ambiguous" id="A1.E27X.3.2.2.m1.2.2.2.2.5.2.1.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.2">subscript</csymbol><ci id="A1.E27X.3.2.2.m1.2.2.2.2.5.2.2.cmml" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.2.2">𝑦</ci><cn id="A1.E27X.3.2.2.m1.2.2.2.2.5.2.3.cmml" type="integer" xref="A1.E27X.3.2.2.m1.2.2.2.2.5.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E27X.3.2.2.m1.2c">\displaystyle\triangleq\int_{\mathcal{Y}}p_{\theta}(y_{1},y_{2}|x)\mathrm{d}y_% {2}</annotation><annotation encoding="application/x-llamapun" id="A1.E27X.3.2.2.m1.2d">≜ ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E27X.5.1.1.1">definition of marginal</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="5"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(27)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E27Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}}\left(\int_{\mathcal{X}}p(y_{1}|x^{\prime})% \cdot p(y_{2}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}x^{\prime}\right)\mathrm{d% }y_{2}" class="ltx_Math" display="inline" id="A1.E27Xa.2.1.1.m1.2"><semantics id="A1.E27Xa.2.1.1.m1.2a"><mrow id="A1.E27Xa.2.1.1.m1.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.3" xref="A1.E27Xa.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E27Xa.2.1.1.m1.2.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.cmml"><mstyle displaystyle="true" id="A1.E27Xa.2.1.1.m1.2.2.1.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.2.cmml"><msub id="A1.E27Xa.2.1.1.m1.2.2.1.2a" xref="A1.E27Xa.2.1.1.m1.2.2.1.2.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E27Xa.2.1.1.m1.2.2.1.2.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.cmml"><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><msub id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4a" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml"><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">p</mi><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" rspace="0.222em" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.2.cmml">⋅</mo><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.3.cmml">p</mi></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><msub id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml">y</mi><mn id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><msup id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.cmml">x</mi><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4a" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml">p</mi><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4b" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.2" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">(</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><msup id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml">x</mi><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml">|</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">[</mo><mi id="A1.E27Xa.2.1.1.m1.1.1" xref="A1.E27Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.2" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.3" stretchy="false" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">)</mo></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4c" lspace="0em" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.1" rspace="0em" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.1.cmml">d</mo><msup id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.2.cmml">x</mi><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.3.cmml">′</mo></msup></mrow></mrow></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.2" lspace="0em" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E27Xa.2.1.1.m1.2.2.1.1.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.cmml"><mo id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.1" rspace="0em" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.1.cmml">d</mo><msub id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.cmml"><mi id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.2" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.2.cmml">y</mi><mn id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.3" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E27Xa.2.1.1.m1.2b"><apply id="A1.E27Xa.2.1.1.m1.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2"><eq id="A1.E27Xa.2.1.1.m1.2.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E27Xa.2.1.1.m1.2.2.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E27Xa.2.1.1.m1.2.2.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1"><apply id="A1.E27Xa.2.1.1.m1.2.2.1.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.2"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.2.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.2">subscript</csymbol><int id="A1.E27Xa.2.1.1.m1.2.2.1.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.2.2"></int><ci id="A1.E27Xa.2.1.1.m1.2.2.1.2.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.2.3">𝒴</ci></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1"><times id="A1.E27Xa.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.2"></times><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1"><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4">subscript</csymbol><int id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2"></int><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3">𝒳</ci></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3"><times id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4"></times><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1"><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.2">⋅</ci><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><times id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2"></times><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑝</ci><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.3.3">′</ci></apply></apply></apply><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.3">𝑝</ci></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2">subscript</csymbol><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2">𝑦</ci><cn id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml" type="integer" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3">2</cn></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3">superscript</csymbol><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2">𝑥</ci><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3">′</ci></apply></apply><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5">𝑝</ci><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1"><csymbol cd="latexml" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1">conditional</csymbol><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2">superscript</csymbol><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2">𝑥</ci><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3">′</ci></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2"><csymbol cd="latexml" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E27Xa.2.1.1.m1.1.1.cmml" xref="A1.E27Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6"><csymbol cd="latexml" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.1">differential-d</csymbol><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2">superscript</csymbol><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.2">𝑥</ci><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.2.3">′</ci></apply></apply></apply></apply><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3"><csymbol cd="latexml" id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.1">differential-d</csymbol><apply id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2"><csymbol cd="ambiguous" id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.1.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2">subscript</csymbol><ci id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.2.cmml" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.2">𝑦</ci><cn id="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.3.cmml" type="integer" xref="A1.E27Xa.2.1.1.m1.2.2.1.1.3.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E27Xa.2.1.1.m1.2c">\displaystyle=\int_{\mathcal{Y}}\left(\int_{\mathcal{X}}p(y_{1}|x^{\prime})% \cdot p(y_{2}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}x^{\prime}\right)\mathrm{d% }y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E27Xa.2.1.1.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT ( ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) ⋅ italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E27Xa.4.1.1.1">definition Eq. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem3" title="Definition 2.3. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.3</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E27Xa.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E27Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{X}}p(y_{1}|x^{\prime})\left(\int_{\mathcal{Y}}p(y% _{2}|x^{\prime})\mathrm{d}y_{2}\right)p(x^{\prime}|[x])\mathrm{d}x^{\prime}" class="ltx_Math" display="inline" id="A1.E27Xb.2.1.1.m1.4"><semantics id="A1.E27Xb.2.1.1.m1.4a"><mrow id="A1.E27Xb.2.1.1.m1.4.4" xref="A1.E27Xb.2.1.1.m1.4.4.cmml"><mi id="A1.E27Xb.2.1.1.m1.4.4.5" xref="A1.E27Xb.2.1.1.m1.4.4.5.cmml"></mi><mo id="A1.E27Xb.2.1.1.m1.4.4.4" xref="A1.E27Xb.2.1.1.m1.4.4.4.cmml">=</mo><mrow id="A1.E27Xb.2.1.1.m1.4.4.3" xref="A1.E27Xb.2.1.1.m1.4.4.3.cmml"><mstyle displaystyle="true" id="A1.E27Xb.2.1.1.m1.4.4.3.4" xref="A1.E27Xb.2.1.1.m1.4.4.3.4.cmml"><msub id="A1.E27Xb.2.1.1.m1.4.4.3.4a" xref="A1.E27Xb.2.1.1.m1.4.4.3.4.cmml"><mo id="A1.E27Xb.2.1.1.m1.4.4.3.4.2" xref="A1.E27Xb.2.1.1.m1.4.4.3.4.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E27Xb.2.1.1.m1.4.4.3.4.3" xref="A1.E27Xb.2.1.1.m1.4.4.3.4.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E27Xb.2.1.1.m1.4.4.3.3" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.cmml"><mi id="A1.E27Xb.2.1.1.m1.4.4.3.3.5" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.5.cmml">p</mi><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.4" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.4.cmml">⁢</mo><mrow id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.2" stretchy="false" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><msub id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mi id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mi id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.3" stretchy="false" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.4a" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.4.cmml">⁢</mo><mrow id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml"><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml">(</mo><mrow id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml"><mstyle displaystyle="true" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml"><msub id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2a" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml"><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.cmml"><mi id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3.cmml">p</mi><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml"><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.2" stretchy="false" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml"><msub id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.cmml"><mi id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.cmml"><mi id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.3" stretchy="false" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2a" lspace="0em" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.cmml"><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.1" rspace="0em" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.1.cmml">d</mo><msub id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.cmml"><mi id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.2" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.2.cmml">y</mi><mn id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.3" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.3.cmml">2</mn></msub></mrow></mrow></mrow><mo id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.3" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.4b" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.4.cmml">⁢</mo><mi id="A1.E27Xb.2.1.1.m1.4.4.3.3.6" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.6.cmml">p</mi><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.4c" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.4.cmml">⁢</mo><mrow id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.cmml"><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.2" stretchy="false" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.cmml">(</mo><mrow id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.cmml"><msup id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.cmml"><mi id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.2" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.2.cmml">x</mi><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.3" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.1" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.1.cmml">|</mo><mrow id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.2" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.1.cmml"><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.2.1" stretchy="false" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.1.1.cmml">[</mo><mi id="A1.E27Xb.2.1.1.m1.1.1" xref="A1.E27Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.2.2" stretchy="false" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.3" stretchy="false" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.cmml">)</mo></mrow><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.4d" lspace="0em" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.4.cmml">⁢</mo><mrow id="A1.E27Xb.2.1.1.m1.4.4.3.3.7" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.cmml"><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.1" rspace="0em" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.1.cmml">d</mo><msup id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.cmml"><mi id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.2" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.2.cmml">x</mi><mo id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.3" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.3.cmml">′</mo></msup></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E27Xb.2.1.1.m1.4b"><apply id="A1.E27Xb.2.1.1.m1.4.4.cmml" xref="A1.E27Xb.2.1.1.m1.4.4"><eq id="A1.E27Xb.2.1.1.m1.4.4.4.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.4"></eq><csymbol cd="latexml" id="A1.E27Xb.2.1.1.m1.4.4.5.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.5">absent</csymbol><apply id="A1.E27Xb.2.1.1.m1.4.4.3.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3"><apply id="A1.E27Xb.2.1.1.m1.4.4.3.4.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.4"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.4.4.3.4.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.4">subscript</csymbol><int id="A1.E27Xb.2.1.1.m1.4.4.3.4.2.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.4.2"></int><ci id="A1.E27Xb.2.1.1.m1.4.4.3.4.3.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.4.3">𝒳</ci></apply><apply id="A1.E27Xb.2.1.1.m1.4.4.3.3.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3"><times id="A1.E27Xb.2.1.1.m1.4.4.3.3.4.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.4"></times><ci id="A1.E27Xb.2.1.1.m1.4.4.3.3.5.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.5">𝑝</ci><apply id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml" xref="A1.E27Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3">′</ci></apply></apply><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1"><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2">subscript</csymbol><int id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2"></int><ci id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3">𝒴</ci></apply><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1"><times id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.2"></times><ci id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.3">𝑝</ci><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3">2</cn></apply><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3">′</ci></apply></apply><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4"><csymbol cd="latexml" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.1">differential-d</csymbol><apply id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.1.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2">subscript</csymbol><ci id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.2.cmml" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.2">𝑦</ci><cn id="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.3.cmml" type="integer" xref="A1.E27Xb.2.1.1.m1.3.3.2.2.2.1.1.1.4.2.3">2</cn></apply></apply></apply></apply><ci id="A1.E27Xb.2.1.1.m1.4.4.3.3.6.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.6">𝑝</ci><apply id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1"><csymbol cd="latexml" id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.1">conditional</csymbol><apply id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2">superscript</csymbol><ci id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.2.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.2">𝑥</ci><ci id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.3.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.2.3">′</ci></apply><apply id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.2"><csymbol cd="latexml" id="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.3.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E27Xb.2.1.1.m1.1.1.cmml" xref="A1.E27Xb.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7"><csymbol cd="latexml" id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.1">differential-d</csymbol><apply id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2"><csymbol cd="ambiguous" id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.1.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2">superscript</csymbol><ci id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.2.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.2">𝑥</ci><ci id="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.3.cmml" xref="A1.E27Xb.2.1.1.m1.4.4.3.3.7.2.3">′</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E27Xb.2.1.1.m1.4c">\displaystyle=\int_{\mathcal{X}}p(y_{1}|x^{\prime})\left(\int_{\mathcal{Y}}p(y% _{2}|x^{\prime})\mathrm{d}y_{2}\right)p(x^{\prime}|[x])\mathrm{d}x^{\prime}</annotation><annotation encoding="application/x-llamapun" id="A1.E27Xb.2.1.1.m1.4d">= ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) ( ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E27Xb.4.1.1.1">Fubini</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E27Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{X}}p(y_{1}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}% x^{\prime}" class="ltx_Math" display="inline" id="A1.E27Xc.2.1.1.m1.3"><semantics id="A1.E27Xc.2.1.1.m1.3a"><mrow id="A1.E27Xc.2.1.1.m1.3.3" xref="A1.E27Xc.2.1.1.m1.3.3.cmml"><mi id="A1.E27Xc.2.1.1.m1.3.3.4" xref="A1.E27Xc.2.1.1.m1.3.3.4.cmml"></mi><mo id="A1.E27Xc.2.1.1.m1.3.3.3" xref="A1.E27Xc.2.1.1.m1.3.3.3.cmml">=</mo><mrow id="A1.E27Xc.2.1.1.m1.3.3.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.cmml"><mstyle displaystyle="true" id="A1.E27Xc.2.1.1.m1.3.3.2.3" xref="A1.E27Xc.2.1.1.m1.3.3.2.3.cmml"><msub id="A1.E27Xc.2.1.1.m1.3.3.2.3a" xref="A1.E27Xc.2.1.1.m1.3.3.2.3.cmml"><mo id="A1.E27Xc.2.1.1.m1.3.3.2.3.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E27Xc.2.1.1.m1.3.3.2.3.3" xref="A1.E27Xc.2.1.1.m1.3.3.2.3.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E27Xc.2.1.1.m1.3.3.2.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.cmml"><mi id="A1.E27Xc.2.1.1.m1.3.3.2.2.4" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.4.cmml">p</mi><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.3" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.2" stretchy="false" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml"><msub id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mi id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mi id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.3" stretchy="false" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.3a" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mi id="A1.E27Xc.2.1.1.m1.3.3.2.2.5" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.5.cmml">p</mi><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.3b" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.cmml"><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.2" stretchy="false" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.cmml">(</mo><mrow id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.cmml"><msup id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.cmml"><mi id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml">x</mi><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.3" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.1" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.1.cmml">|</mo><mrow id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.1.cmml"><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.2.1" stretchy="false" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.1.1.cmml">[</mo><mi id="A1.E27Xc.2.1.1.m1.1.1" xref="A1.E27Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.2.2" stretchy="false" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.3" stretchy="false" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.3c" lspace="0em" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E27Xc.2.1.1.m1.3.3.2.2.6" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.cmml"><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.1" rspace="0em" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.1.cmml">d</mo><msup id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.cmml"><mi id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.2" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.2.cmml">x</mi><mo id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.3" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.3.cmml">′</mo></msup></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E27Xc.2.1.1.m1.3b"><apply id="A1.E27Xc.2.1.1.m1.3.3.cmml" xref="A1.E27Xc.2.1.1.m1.3.3"><eq id="A1.E27Xc.2.1.1.m1.3.3.3.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.3"></eq><csymbol cd="latexml" id="A1.E27Xc.2.1.1.m1.3.3.4.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.4">absent</csymbol><apply id="A1.E27Xc.2.1.1.m1.3.3.2.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2"><apply id="A1.E27Xc.2.1.1.m1.3.3.2.3.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.3"><csymbol cd="ambiguous" id="A1.E27Xc.2.1.1.m1.3.3.2.3.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.3">subscript</csymbol><int id="A1.E27Xc.2.1.1.m1.3.3.2.3.2.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.3.2"></int><ci id="A1.E27Xc.2.1.1.m1.3.3.2.3.3.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.3.3">𝒳</ci></apply><apply id="A1.E27Xc.2.1.1.m1.3.3.2.2.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2"><times id="A1.E27Xc.2.1.1.m1.3.3.2.2.3.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.3"></times><ci id="A1.E27Xc.2.1.1.m1.3.3.2.2.4.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.4">𝑝</ci><apply id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml" xref="A1.E27Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3">′</ci></apply></apply><ci id="A1.E27Xc.2.1.1.m1.3.3.2.2.5.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.5">𝑝</ci><apply id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1"><csymbol cd="latexml" id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.1">conditional</csymbol><apply id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2">superscript</csymbol><ci id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.2">𝑥</ci><ci id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.2.3">′</ci></apply><apply id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.2"><csymbol cd="latexml" id="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.1.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.2.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E27Xc.2.1.1.m1.1.1.cmml" xref="A1.E27Xc.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6"><csymbol cd="latexml" id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.1">differential-d</csymbol><apply id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2"><csymbol cd="ambiguous" id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.1.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2">superscript</csymbol><ci id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.2.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.2">𝑥</ci><ci id="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.3.cmml" xref="A1.E27Xc.2.1.1.m1.3.3.2.2.6.2.3">′</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E27Xc.2.1.1.m1.3c">\displaystyle=\int_{\mathcal{X}}p(y_{1}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}% x^{\prime}</annotation><annotation encoding="application/x-llamapun" id="A1.E27Xc.2.1.1.m1.3d">= ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\text{$\int_{\mathcal{Y}}p(y)\mathrm{d}y=1$}" class="ltx_Math" display="inline" id="A1.E27Xc.4.1.1.m1.1"><semantics id="A1.E27Xc.4.1.1.m1.1a"><mrow id="A1.E27Xc.4.1.1.m1.1.1" xref="A1.E27Xc.4.1.1.m1.1.1.cmml"><mrow id="A1.E27Xc.4.1.1.m1.1.1.4" xref="A1.E27Xc.4.1.1.m1.1.1.4.cmml"><msub id="A1.E27Xc.4.1.1.m1.1.1.4.1" xref="A1.E27Xc.4.1.1.m1.1.1.4.1.cmml"><mo id="A1.E27Xc.4.1.1.m1.1.1.4.1.2" xref="A1.E27Xc.4.1.1.m1.1.1.4.1.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E27Xc.4.1.1.m1.1.1.4.1.3" xref="A1.E27Xc.4.1.1.m1.1.1.4.1.3.cmml">𝒴</mi></msub><mrow id="A1.E27Xc.4.1.1.m1.1.1.4.2" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.cmml"><mi id="A1.E27Xc.4.1.1.m1.1.1.4.2.2" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.2.cmml">p</mi><mo id="A1.E27Xc.4.1.1.m1.1.1.4.2.1" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.1.cmml">⁢</mo><mrow id="A1.E27Xc.4.1.1.m1.1.1.4.2.3.2" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.cmml"><mo id="A1.E27Xc.4.1.1.m1.1.1.4.2.3.2.1" stretchy="false" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.cmml">(</mo><mi id="A1.E27Xc.4.1.1.m1.1.1.2" xref="A1.E27Xc.4.1.1.m1.1.1.2.cmml">y</mi><mo id="A1.E27Xc.4.1.1.m1.1.1.4.2.3.2.2" stretchy="false" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.cmml">)</mo></mrow><mo id="A1.E27Xc.4.1.1.m1.1.1.4.2.1a" lspace="0em" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.1.cmml">⁢</mo><mrow id="A1.E27Xc.4.1.1.m1.1.1.4.2.4" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.4.cmml"><mo id="A1.E27Xc.4.1.1.m1.1.1.4.2.4.1" rspace="0em" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.4.1.cmml">d</mo><mi id="A1.E27Xc.4.1.1.m1.1.1.4.2.4.2" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.4.2.cmml">y</mi></mrow></mrow></mrow><mo id="A1.E27Xc.4.1.1.m1.1.1.3" xref="A1.E27Xc.4.1.1.m1.1.1.3.cmml">=</mo><mn id="A1.E27Xc.4.1.1.m1.1.1.5" xref="A1.E27Xc.4.1.1.m1.1.1.5.cmml">1</mn></mrow><annotation-xml encoding="MathML-Content" id="A1.E27Xc.4.1.1.m1.1b"><apply id="A1.E27Xc.4.1.1.m1.1.1.cmml" xref="A1.E27Xc.4.1.1.m1.1.1"><eq id="A1.E27Xc.4.1.1.m1.1.1.3.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.3"></eq><apply id="A1.E27Xc.4.1.1.m1.1.1.4.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4"><apply id="A1.E27Xc.4.1.1.m1.1.1.4.1.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.1"><csymbol cd="ambiguous" id="A1.E27Xc.4.1.1.m1.1.1.4.1.1.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.1">subscript</csymbol><int id="A1.E27Xc.4.1.1.m1.1.1.4.1.2.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.1.2"></int><ci id="A1.E27Xc.4.1.1.m1.1.1.4.1.3.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.1.3">𝒴</ci></apply><apply id="A1.E27Xc.4.1.1.m1.1.1.4.2.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.2"><times id="A1.E27Xc.4.1.1.m1.1.1.4.2.1.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.1"></times><ci id="A1.E27Xc.4.1.1.m1.1.1.4.2.2.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.2">𝑝</ci><ci id="A1.E27Xc.4.1.1.m1.1.1.2.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.2">𝑦</ci><apply id="A1.E27Xc.4.1.1.m1.1.1.4.2.4.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.4"><csymbol cd="latexml" id="A1.E27Xc.4.1.1.m1.1.1.4.2.4.1.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.4.1">differential-d</csymbol><ci id="A1.E27Xc.4.1.1.m1.1.1.4.2.4.2.cmml" xref="A1.E27Xc.4.1.1.m1.1.1.4.2.4.2">𝑦</ci></apply></apply></apply><cn id="A1.E27Xc.4.1.1.m1.1.1.5.cmml" type="integer" xref="A1.E27Xc.4.1.1.m1.1.1.5">1</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E27Xc.4.1.1.m1.1c">\displaystyle\text{$\int_{\mathcal{Y}}p(y)\mathrm{d}y=1$}</annotation><annotation encoding="application/x-llamapun" id="A1.E27Xc.4.1.1.m1.1d">∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_p ( italic_y ) roman_d italic_y = 1</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E27Xd"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[p(y|X)|[x]]" class="ltx_Math" display="inline" id="A1.E27Xd.2.1.1.m1.2"><semantics id="A1.E27Xd.2.1.1.m1.2a"><mrow id="A1.E27Xd.2.1.1.m1.2.2" xref="A1.E27Xd.2.1.1.m1.2.2.cmml"><mi id="A1.E27Xd.2.1.1.m1.2.2.3" xref="A1.E27Xd.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E27Xd.2.1.1.m1.2.2.2" xref="A1.E27Xd.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E27Xd.2.1.1.m1.2.2.1" xref="A1.E27Xd.2.1.1.m1.2.2.1.cmml"><mi id="A1.E27Xd.2.1.1.m1.2.2.1.3" xref="A1.E27Xd.2.1.1.m1.2.2.1.3.cmml">𝔼</mi><mo id="A1.E27Xd.2.1.1.m1.2.2.1.2" xref="A1.E27Xd.2.1.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="A1.E27Xd.2.1.1.m1.2.2.1.1.1" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.2.cmml"><mo id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.2" stretchy="false" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.cmml"><mrow id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mi id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.3.cmml">p</mi><mo id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.2.cmml">|</mo><mrow id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.2" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.1.cmml"><mo id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.2.1" stretchy="false" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E27Xd.2.1.1.m1.1.1" xref="A1.E27Xd.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.2.2" stretchy="false" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.3" stretchy="false" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E27Xd.2.1.1.m1.2b"><apply id="A1.E27Xd.2.1.1.m1.2.2.cmml" xref="A1.E27Xd.2.1.1.m1.2.2"><eq id="A1.E27Xd.2.1.1.m1.2.2.2.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E27Xd.2.1.1.m1.2.2.3.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E27Xd.2.1.1.m1.2.2.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1"><times id="A1.E27Xd.2.1.1.m1.2.2.1.2.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.2"></times><ci id="A1.E27Xd.2.1.1.m1.2.2.1.3.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.3">𝔼</ci><apply id="A1.E27Xd.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="A1.E27Xd.2.1.1.m1.2.2.1.1.2.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.2">conditional</csymbol><apply id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1"><times id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.2"></times><ci id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.3">𝑝</ci><apply id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2">𝑦</ci><ci id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml" xref="A1.E27Xd.2.1.1.m1.2.2.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E27Xd.2.1.1.m1.1.1.cmml" xref="A1.E27Xd.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E27Xd.2.1.1.m1.2c">\displaystyle=\mathbb{E}[p(y|X)|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E27Xd.2.1.1.m1.2d">= blackboard_E [ italic_p ( italic_y | italic_X ) | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.2.p1.1">∎</p> </div> </div> <div class="ltx_proof" id="A1.3"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of Theorem <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.Thmtheorem2" title="Theorem 3.2. ‣ 3.3 Connection to (Johnson et al., 2024) ‣ 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">3.2</span></a>.</h6> <div class="ltx_para" id="A1.3.p1"> <p class="ltx_p" id="A1.3.p1.1">The proof follows immediately from theorem <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem4" title="Theorem 2.4. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.4</span></a>:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E28"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E28X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\Sigma^{\theta}_{y,y^{\prime}}(x)" class="ltx_Math" display="inline" id="A1.E28X.2.1.1.m1.3"><semantics id="A1.E28X.2.1.1.m1.3a"><mrow id="A1.E28X.2.1.1.m1.3.4" xref="A1.E28X.2.1.1.m1.3.4.cmml"><msubsup id="A1.E28X.2.1.1.m1.3.4.2" xref="A1.E28X.2.1.1.m1.3.4.2.cmml"><mi id="A1.E28X.2.1.1.m1.3.4.2.2.2" mathvariant="normal" xref="A1.E28X.2.1.1.m1.3.4.2.2.2.cmml">Σ</mi><mrow id="A1.E28X.2.1.1.m1.2.2.2.2" xref="A1.E28X.2.1.1.m1.2.2.2.3.cmml"><mi id="A1.E28X.2.1.1.m1.1.1.1.1" xref="A1.E28X.2.1.1.m1.1.1.1.1.cmml">y</mi><mo id="A1.E28X.2.1.1.m1.2.2.2.2.2" xref="A1.E28X.2.1.1.m1.2.2.2.3.cmml">,</mo><msup id="A1.E28X.2.1.1.m1.2.2.2.2.1" xref="A1.E28X.2.1.1.m1.2.2.2.2.1.cmml"><mi id="A1.E28X.2.1.1.m1.2.2.2.2.1.2" xref="A1.E28X.2.1.1.m1.2.2.2.2.1.2.cmml">y</mi><mo id="A1.E28X.2.1.1.m1.2.2.2.2.1.3" xref="A1.E28X.2.1.1.m1.2.2.2.2.1.3.cmml">′</mo></msup></mrow><mi id="A1.E28X.2.1.1.m1.3.4.2.2.3" xref="A1.E28X.2.1.1.m1.3.4.2.2.3.cmml">θ</mi></msubsup><mo id="A1.E28X.2.1.1.m1.3.4.1" xref="A1.E28X.2.1.1.m1.3.4.1.cmml">⁢</mo><mrow id="A1.E28X.2.1.1.m1.3.4.3.2" xref="A1.E28X.2.1.1.m1.3.4.cmml"><mo id="A1.E28X.2.1.1.m1.3.4.3.2.1" stretchy="false" xref="A1.E28X.2.1.1.m1.3.4.cmml">(</mo><mi id="A1.E28X.2.1.1.m1.3.3" xref="A1.E28X.2.1.1.m1.3.3.cmml">x</mi><mo id="A1.E28X.2.1.1.m1.3.4.3.2.2" stretchy="false" xref="A1.E28X.2.1.1.m1.3.4.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E28X.2.1.1.m1.3b"><apply id="A1.E28X.2.1.1.m1.3.4.cmml" xref="A1.E28X.2.1.1.m1.3.4"><times id="A1.E28X.2.1.1.m1.3.4.1.cmml" xref="A1.E28X.2.1.1.m1.3.4.1"></times><apply id="A1.E28X.2.1.1.m1.3.4.2.cmml" xref="A1.E28X.2.1.1.m1.3.4.2"><csymbol cd="ambiguous" id="A1.E28X.2.1.1.m1.3.4.2.1.cmml" xref="A1.E28X.2.1.1.m1.3.4.2">subscript</csymbol><apply id="A1.E28X.2.1.1.m1.3.4.2.2.cmml" xref="A1.E28X.2.1.1.m1.3.4.2"><csymbol cd="ambiguous" id="A1.E28X.2.1.1.m1.3.4.2.2.1.cmml" xref="A1.E28X.2.1.1.m1.3.4.2">superscript</csymbol><ci id="A1.E28X.2.1.1.m1.3.4.2.2.2.cmml" xref="A1.E28X.2.1.1.m1.3.4.2.2.2">Σ</ci><ci id="A1.E28X.2.1.1.m1.3.4.2.2.3.cmml" xref="A1.E28X.2.1.1.m1.3.4.2.2.3">𝜃</ci></apply><list id="A1.E28X.2.1.1.m1.2.2.2.3.cmml" xref="A1.E28X.2.1.1.m1.2.2.2.2"><ci id="A1.E28X.2.1.1.m1.1.1.1.1.cmml" xref="A1.E28X.2.1.1.m1.1.1.1.1">𝑦</ci><apply id="A1.E28X.2.1.1.m1.2.2.2.2.1.cmml" xref="A1.E28X.2.1.1.m1.2.2.2.2.1"><csymbol cd="ambiguous" id="A1.E28X.2.1.1.m1.2.2.2.2.1.1.cmml" xref="A1.E28X.2.1.1.m1.2.2.2.2.1">superscript</csymbol><ci id="A1.E28X.2.1.1.m1.2.2.2.2.1.2.cmml" xref="A1.E28X.2.1.1.m1.2.2.2.2.1.2">𝑦</ci><ci id="A1.E28X.2.1.1.m1.2.2.2.2.1.3.cmml" xref="A1.E28X.2.1.1.m1.2.2.2.2.1.3">′</ci></apply></list></apply><ci id="A1.E28X.2.1.1.m1.3.3.cmml" xref="A1.E28X.2.1.1.m1.3.3">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E28X.2.1.1.m1.3c">\displaystyle\Sigma^{\theta}_{y,y^{\prime}}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.E28X.2.1.1.m1.3d">roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_y , italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\triangleq p_{\theta}(y,y^{\prime}|x)-p_{\theta}(y|x)p_{\theta}(y% ^{\prime}|x)" class="ltx_Math" display="inline" id="A1.E28X.3.2.2.m1.4"><semantics id="A1.E28X.3.2.2.m1.4a"><mrow id="A1.E28X.3.2.2.m1.4.4" xref="A1.E28X.3.2.2.m1.4.4.cmml"><mi id="A1.E28X.3.2.2.m1.4.4.5" xref="A1.E28X.3.2.2.m1.4.4.5.cmml"></mi><mo id="A1.E28X.3.2.2.m1.4.4.4" xref="A1.E28X.3.2.2.m1.4.4.4.cmml">≜</mo><mrow id="A1.E28X.3.2.2.m1.4.4.3" xref="A1.E28X.3.2.2.m1.4.4.3.cmml"><mrow id="A1.E28X.3.2.2.m1.2.2.1.1" xref="A1.E28X.3.2.2.m1.2.2.1.1.cmml"><msub id="A1.E28X.3.2.2.m1.2.2.1.1.3" xref="A1.E28X.3.2.2.m1.2.2.1.1.3.cmml"><mi id="A1.E28X.3.2.2.m1.2.2.1.1.3.2" xref="A1.E28X.3.2.2.m1.2.2.1.1.3.2.cmml">p</mi><mi id="A1.E28X.3.2.2.m1.2.2.1.1.3.3" xref="A1.E28X.3.2.2.m1.2.2.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E28X.3.2.2.m1.2.2.1.1.2" xref="A1.E28X.3.2.2.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E28X.3.2.2.m1.2.2.1.1.1.1" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.2.cmml"><mo id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.2" stretchy="false" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.2.cmml">(</mo><mi id="A1.E28X.3.2.2.m1.1.1" xref="A1.E28X.3.2.2.m1.1.1.cmml">y</mi><mo id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.3" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.2.cmml">,</mo><mrow id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.cmml"><msup id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.cmml"><mi id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.2" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.2.cmml">y</mi><mo id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.3" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.1" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.3" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.4" stretchy="false" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A1.E28X.3.2.2.m1.4.4.3.4" xref="A1.E28X.3.2.2.m1.4.4.3.4.cmml">−</mo><mrow id="A1.E28X.3.2.2.m1.4.4.3.3" xref="A1.E28X.3.2.2.m1.4.4.3.3.cmml"><msub id="A1.E28X.3.2.2.m1.4.4.3.3.4" xref="A1.E28X.3.2.2.m1.4.4.3.3.4.cmml"><mi id="A1.E28X.3.2.2.m1.4.4.3.3.4.2" xref="A1.E28X.3.2.2.m1.4.4.3.3.4.2.cmml">p</mi><mi id="A1.E28X.3.2.2.m1.4.4.3.3.4.3" xref="A1.E28X.3.2.2.m1.4.4.3.3.4.3.cmml">θ</mi></msub><mo id="A1.E28X.3.2.2.m1.4.4.3.3.3" xref="A1.E28X.3.2.2.m1.4.4.3.3.3.cmml">⁢</mo><mrow id="A1.E28X.3.2.2.m1.3.3.2.2.1.1" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.cmml"><mo id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.2" stretchy="false" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.cmml">(</mo><mrow id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.cmml"><mi id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.2" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.1" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.1.cmml">|</mo><mi id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.3" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.3" stretchy="false" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.cmml">)</mo></mrow><mo id="A1.E28X.3.2.2.m1.4.4.3.3.3a" xref="A1.E28X.3.2.2.m1.4.4.3.3.3.cmml">⁢</mo><msub id="A1.E28X.3.2.2.m1.4.4.3.3.5" xref="A1.E28X.3.2.2.m1.4.4.3.3.5.cmml"><mi id="A1.E28X.3.2.2.m1.4.4.3.3.5.2" xref="A1.E28X.3.2.2.m1.4.4.3.3.5.2.cmml">p</mi><mi id="A1.E28X.3.2.2.m1.4.4.3.3.5.3" xref="A1.E28X.3.2.2.m1.4.4.3.3.5.3.cmml">θ</mi></msub><mo id="A1.E28X.3.2.2.m1.4.4.3.3.3b" xref="A1.E28X.3.2.2.m1.4.4.3.3.3.cmml">⁢</mo><mrow id="A1.E28X.3.2.2.m1.4.4.3.3.2.1" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.cmml"><mo id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.2" stretchy="false" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.cmml">(</mo><mrow id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.cmml"><msup id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.cmml"><mi id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.2" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.2.cmml">y</mi><mo id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.3" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.1" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.1.cmml">|</mo><mi id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.3" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.3.cmml">x</mi></mrow><mo id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.3" stretchy="false" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E28X.3.2.2.m1.4b"><apply id="A1.E28X.3.2.2.m1.4.4.cmml" xref="A1.E28X.3.2.2.m1.4.4"><ci id="A1.E28X.3.2.2.m1.4.4.4.cmml" xref="A1.E28X.3.2.2.m1.4.4.4">≜</ci><csymbol cd="latexml" id="A1.E28X.3.2.2.m1.4.4.5.cmml" xref="A1.E28X.3.2.2.m1.4.4.5">absent</csymbol><apply id="A1.E28X.3.2.2.m1.4.4.3.cmml" xref="A1.E28X.3.2.2.m1.4.4.3"><minus id="A1.E28X.3.2.2.m1.4.4.3.4.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.4"></minus><apply id="A1.E28X.3.2.2.m1.2.2.1.1.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1"><times id="A1.E28X.3.2.2.m1.2.2.1.1.2.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.2"></times><apply id="A1.E28X.3.2.2.m1.2.2.1.1.3.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E28X.3.2.2.m1.2.2.1.1.3.1.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.3">subscript</csymbol><ci id="A1.E28X.3.2.2.m1.2.2.1.1.3.2.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.3.2">𝑝</ci><ci id="A1.E28X.3.2.2.m1.2.2.1.1.3.3.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.3.3">𝜃</ci></apply><interval closure="open" id="A1.E28X.3.2.2.m1.2.2.1.1.1.2.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1"><ci id="A1.E28X.3.2.2.m1.1.1.cmml" xref="A1.E28X.3.2.2.m1.1.1">𝑦</ci><apply id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.2.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.2">𝑦</ci><ci id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.3.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.2.3">′</ci></apply><ci id="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E28X.3.2.2.m1.2.2.1.1.1.1.1.3">𝑥</ci></apply></interval></apply><apply id="A1.E28X.3.2.2.m1.4.4.3.3.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3"><times id="A1.E28X.3.2.2.m1.4.4.3.3.3.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.3"></times><apply id="A1.E28X.3.2.2.m1.4.4.3.3.4.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.4"><csymbol cd="ambiguous" id="A1.E28X.3.2.2.m1.4.4.3.3.4.1.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.4">subscript</csymbol><ci id="A1.E28X.3.2.2.m1.4.4.3.3.4.2.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.4.2">𝑝</ci><ci id="A1.E28X.3.2.2.m1.4.4.3.3.4.3.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.4.3">𝜃</ci></apply><apply id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.cmml" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1"><csymbol cd="latexml" id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.1.cmml" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.1">conditional</csymbol><ci id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.2.cmml" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.2">𝑦</ci><ci id="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.3.cmml" xref="A1.E28X.3.2.2.m1.3.3.2.2.1.1.1.3">𝑥</ci></apply><apply id="A1.E28X.3.2.2.m1.4.4.3.3.5.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.5"><csymbol cd="ambiguous" id="A1.E28X.3.2.2.m1.4.4.3.3.5.1.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.5">subscript</csymbol><ci id="A1.E28X.3.2.2.m1.4.4.3.3.5.2.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.5.2">𝑝</ci><ci id="A1.E28X.3.2.2.m1.4.4.3.3.5.3.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.5.3">𝜃</ci></apply><apply id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1"><csymbol cd="latexml" id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.1.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.1">conditional</csymbol><apply id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2"><csymbol cd="ambiguous" id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.1.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2">superscript</csymbol><ci id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.2.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.2">𝑦</ci><ci id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.3.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.2.3">′</ci></apply><ci id="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.3.cmml" xref="A1.E28X.3.2.2.m1.4.4.3.3.2.1.1.3">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E28X.3.2.2.m1.4c">\displaystyle\triangleq p_{\theta}(y,y^{\prime}|x)-p_{\theta}(y|x)p_{\theta}(y% ^{\prime}|x)</annotation><annotation encoding="application/x-llamapun" id="A1.E28X.3.2.2.m1.4d">≜ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y , italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_x ) - italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x ) italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_x )</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="4"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(28)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E28Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[p(y,y^{\prime}|X)|[x]]-\mathbb{E}[p(y|X)|[x]]\cdot% \mathbb{E}[p(y^{\prime}|X)|[x]]" class="ltx_Math" display="inline" id="A1.E28Xa.2.1.1.m1.7"><semantics id="A1.E28Xa.2.1.1.m1.7a"><mrow id="A1.E28Xa.2.1.1.m1.7.7" xref="A1.E28Xa.2.1.1.m1.7.7.cmml"><mi id="A1.E28Xa.2.1.1.m1.7.7.5" xref="A1.E28Xa.2.1.1.m1.7.7.5.cmml"></mi><mo id="A1.E28Xa.2.1.1.m1.7.7.4" xref="A1.E28Xa.2.1.1.m1.7.7.4.cmml">=</mo><mrow id="A1.E28Xa.2.1.1.m1.7.7.3" xref="A1.E28Xa.2.1.1.m1.7.7.3.cmml"><mrow id="A1.E28Xa.2.1.1.m1.5.5.1.1" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.cmml"><mi id="A1.E28Xa.2.1.1.m1.5.5.1.1.3" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.3.cmml">𝔼</mi><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.2" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.2.cmml"><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.2.1.cmml">[</mo><mrow id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.cmml"><mrow id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.cmml"><mi id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.cmml">p</mi><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A1.E28Xa.2.1.1.m1.1.1" xref="A1.E28Xa.2.1.1.m1.1.1.cmml">y</mi><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml">,</mo><mrow id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.cmml"><msup id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.4" stretchy="false" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.2" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.1.cmml"><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E28Xa.2.1.1.m1.2.2" xref="A1.E28Xa.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.3" stretchy="false" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xa.2.1.1.m1.7.7.3.4" xref="A1.E28Xa.2.1.1.m1.7.7.3.4.cmml">−</mo><mrow id="A1.E28Xa.2.1.1.m1.7.7.3.3" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.cmml"><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.cmml"><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.cmml"><mi id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.3" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.3.cmml">𝔼</mi><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.2" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.2.cmml"><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.2.1.cmml">[</mo><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.cmml"><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.cmml"><mi id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.3" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.3.cmml">p</mi><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.2" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.1.cmml"><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E28Xa.2.1.1.m1.3.3" xref="A1.E28Xa.2.1.1.m1.3.3.cmml">x</mi><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.2" rspace="0.222em" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.2.cmml">⋅</mo><mi id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.3" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.3.cmml">𝔼</mi></mrow><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.3" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.3.cmml">⁢</mo><mrow id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.2.cmml"><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.2.1.cmml">[</mo><mrow id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.cmml"><mrow id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.cmml"><mi id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.3" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.3.cmml">p</mi><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.cmml"><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.cmml"><msup id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.cmml"><mi id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.2" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.2.cmml">y</mi><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.3" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.1" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.3" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.3" stretchy="false" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.2" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.2.cmml">|</mo><mrow id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.2" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.1.cmml"><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.2.1" stretchy="false" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.1.1.cmml">[</mo><mi id="A1.E28Xa.2.1.1.m1.4.4" xref="A1.E28Xa.2.1.1.m1.4.4.cmml">x</mi><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.2.2" stretchy="false" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.3" stretchy="false" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E28Xa.2.1.1.m1.7b"><apply id="A1.E28Xa.2.1.1.m1.7.7.cmml" xref="A1.E28Xa.2.1.1.m1.7.7"><eq id="A1.E28Xa.2.1.1.m1.7.7.4.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.4"></eq><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.7.7.5.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.5">absent</csymbol><apply id="A1.E28Xa.2.1.1.m1.7.7.3.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3"><minus id="A1.E28Xa.2.1.1.m1.7.7.3.4.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.4"></minus><apply id="A1.E28Xa.2.1.1.m1.5.5.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1"><times id="A1.E28Xa.2.1.1.m1.5.5.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.2"></times><ci id="A1.E28Xa.2.1.1.m1.5.5.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.3">𝔼</ci><apply id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.2.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1"><times id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2"></times><ci id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3">𝑝</ci><interval closure="open" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1"><ci id="A1.E28Xa.2.1.1.m1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.1.1">𝑦</ci><apply id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><ci id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.3.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.3">′</ci></apply><ci id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></interval></apply><apply id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.5.5.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E28Xa.2.1.1.m1.2.2.cmml" xref="A1.E28Xa.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></apply><apply id="A1.E28Xa.2.1.1.m1.7.7.3.3.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3"><times id="A1.E28Xa.2.1.1.m1.7.7.3.3.3.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.3"></times><apply id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1"><ci id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.2">⋅</ci><apply id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1"><times id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.2"></times><ci id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.3">𝔼</ci><apply id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.2.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1"><times id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.2"></times><ci id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.3">𝑝</ci><apply id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.2">𝑦</ci><ci id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E28Xa.2.1.1.m1.3.3.cmml" xref="A1.E28Xa.2.1.1.m1.3.3">𝑥</ci></apply></apply></apply></apply><ci id="A1.E28Xa.2.1.1.m1.6.6.2.2.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.6.6.2.2.1.3">𝔼</ci></apply><apply id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.2.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.2.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.2">delimited-[]</csymbol><apply id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.2">conditional</csymbol><apply id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1"><times id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.2"></times><ci id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.3">𝑝</ci><apply id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.2.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.2">𝑦</ci><ci id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.3.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.2.3">′</ci></apply><ci id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.3.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.2"><csymbol cd="latexml" id="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.1.1.cmml" xref="A1.E28Xa.2.1.1.m1.7.7.3.3.2.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E28Xa.2.1.1.m1.4.4.cmml" xref="A1.E28Xa.2.1.1.m1.4.4">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E28Xa.2.1.1.m1.7c">\displaystyle=\mathbb{E}[p(y,y^{\prime}|X)|[x]]-\mathbb{E}[p(y|X)|[x]]\cdot% \mathbb{E}[p(y^{\prime}|X)|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E28Xa.2.1.1.m1.7d">= blackboard_E [ italic_p ( italic_y , italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_X ) | [ italic_x ] ] - blackboard_E [ italic_p ( italic_y | italic_X ) | [ italic_x ] ] ⋅ blackboard_E [ italic_p ( italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_X ) | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E28Xa.4.1.1.1">def. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem1" title="Definition 2.1. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.1</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E28Xa.4.1.1.2"> and thm. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem4" title="Theorem 2.4. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.4</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E28Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[p(y|X)p(y^{\prime}|X)|[x]]-\mathbb{E}[p(y|X)|[x]]% \cdot\mathbb{E}[p(y^{\prime}|X)|[x]]" class="ltx_Math" display="inline" id="A1.E28Xb.2.1.1.m1.6"><semantics id="A1.E28Xb.2.1.1.m1.6a"><mrow id="A1.E28Xb.2.1.1.m1.6.6" xref="A1.E28Xb.2.1.1.m1.6.6.cmml"><mi id="A1.E28Xb.2.1.1.m1.6.6.5" xref="A1.E28Xb.2.1.1.m1.6.6.5.cmml"></mi><mo id="A1.E28Xb.2.1.1.m1.6.6.4" xref="A1.E28Xb.2.1.1.m1.6.6.4.cmml">=</mo><mrow id="A1.E28Xb.2.1.1.m1.6.6.3" xref="A1.E28Xb.2.1.1.m1.6.6.3.cmml"><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.cmml"><mi id="A1.E28Xb.2.1.1.m1.4.4.1.1.3" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.3.cmml">𝔼</mi><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.2" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.2.cmml"><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.2.1.cmml">[</mo><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.cmml"><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.cmml"><mi id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.4" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.4.cmml">p</mi><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3a" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml">⁢</mo><mi id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.5" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.5.cmml">p</mi><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3b" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.cmml"><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.cmml"><msup id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2.cmml">y</mi><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><mi id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.3" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.3.cmml">|</mo><mrow id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.2" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.1.cmml"><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.2.1" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.1.1.cmml">[</mo><mi id="A1.E28Xb.2.1.1.m1.1.1" xref="A1.E28Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.2.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.3" stretchy="false" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xb.2.1.1.m1.6.6.3.4" xref="A1.E28Xb.2.1.1.m1.6.6.3.4.cmml">−</mo><mrow id="A1.E28Xb.2.1.1.m1.6.6.3.3" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.cmml"><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.cmml"><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.cmml"><mi id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.3" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.3.cmml">𝔼</mi><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.2" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.2.cmml"><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.2.1.cmml">[</mo><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.cmml"><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.cmml"><mi id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.3" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.3.cmml">p</mi><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.2" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.2" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.2" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.1.cmml"><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E28Xb.2.1.1.m1.2.2" xref="A1.E28Xb.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.2" rspace="0.222em" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.2.cmml">⋅</mo><mi id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.3" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.3.cmml">𝔼</mi></mrow><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.3" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.3.cmml">⁢</mo><mrow id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.2.cmml"><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.2.1.cmml">[</mo><mrow id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.cmml"><mrow id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.cmml"><mi id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.3" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.3.cmml">p</mi><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.2" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.cmml"><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.cmml"><msup id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.cmml"><mi id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2.cmml">y</mi><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.3" stretchy="false" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.2" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.2.cmml">|</mo><mrow id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.2" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.1.cmml"><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.2.1" stretchy="false" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.1.1.cmml">[</mo><mi id="A1.E28Xb.2.1.1.m1.3.3" xref="A1.E28Xb.2.1.1.m1.3.3.cmml">x</mi><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.2.2" stretchy="false" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.3" stretchy="false" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E28Xb.2.1.1.m1.6b"><apply id="A1.E28Xb.2.1.1.m1.6.6.cmml" xref="A1.E28Xb.2.1.1.m1.6.6"><eq id="A1.E28Xb.2.1.1.m1.6.6.4.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.4"></eq><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.6.6.5.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.5">absent</csymbol><apply id="A1.E28Xb.2.1.1.m1.6.6.3.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3"><minus id="A1.E28Xb.2.1.1.m1.6.6.3.4.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.4"></minus><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1"><times id="A1.E28Xb.2.1.1.m1.4.4.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.2"></times><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.3">𝔼</ci><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.2.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.3">conditional</csymbol><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2"><times id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.3"></times><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.4.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.4">𝑝</ci><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2">𝑦</ci><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.5.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.5">𝑝</ci><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2">superscript</csymbol><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2">𝑦</ci><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3">′</ci></apply><ci id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3">𝑋</ci></apply></apply><apply id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.2"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.4.4.1.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="A1.E28Xb.2.1.1.m1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E28Xb.2.1.1.m1.6.6.3.3.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3"><times id="A1.E28Xb.2.1.1.m1.6.6.3.3.3.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.3"></times><apply id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1"><ci id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.2">⋅</ci><apply id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1"><times id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.2"></times><ci id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.3">𝔼</ci><apply id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.2.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1"><times id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.2"></times><ci id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.3">𝑝</ci><apply id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.2">𝑦</ci><ci id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E28Xb.2.1.1.m1.2.2.cmml" xref="A1.E28Xb.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></apply><ci id="A1.E28Xb.2.1.1.m1.5.5.2.2.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.5.5.2.2.1.3">𝔼</ci></apply><apply id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.2.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.2.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.2">delimited-[]</csymbol><apply id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.2">conditional</csymbol><apply id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1"><times id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.2"></times><ci id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.3">𝑝</ci><apply id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2">𝑦</ci><ci id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3">′</ci></apply><ci id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.2"><csymbol cd="latexml" id="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.1.1.cmml" xref="A1.E28Xb.2.1.1.m1.6.6.3.3.2.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E28Xb.2.1.1.m1.3.3.cmml" xref="A1.E28Xb.2.1.1.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E28Xb.2.1.1.m1.6c">\displaystyle=\mathbb{E}[p(y|X)p(y^{\prime}|X)|[x]]-\mathbb{E}[p(y|X)|[x]]% \cdot\mathbb{E}[p(y^{\prime}|X)|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E28Xb.2.1.1.m1.6d">= blackboard_E [ italic_p ( italic_y | italic_X ) italic_p ( italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_X ) | [ italic_x ] ] - blackboard_E [ italic_p ( italic_y | italic_X ) | [ italic_x ] ] ⋅ blackboard_E [ italic_p ( italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_X ) | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle y|X\text{ and }y^{\prime}|X\text{are iid}" class="ltx_Math" display="inline" id="A1.E28Xb.4.1.1.m1.1"><semantics id="A1.E28Xb.4.1.1.m1.1a"><mrow id="A1.E28Xb.4.1.1.m1.1.1" xref="A1.E28Xb.4.1.1.m1.1.1.cmml"><mi id="A1.E28Xb.4.1.1.m1.1.1.3" xref="A1.E28Xb.4.1.1.m1.1.1.3.cmml">y</mi><mo id="A1.E28Xb.4.1.1.m1.1.1.2" xref="A1.E28Xb.4.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xb.4.1.1.m1.1.1.1.1" xref="A1.E28Xb.4.1.1.m1.1.1.1.2.cmml"><mo id="A1.E28Xb.4.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E28Xb.4.1.1.m1.1.1.1.2.1.cmml">|</mo><mrow id="A1.E28Xb.4.1.1.m1.1.1.1.1.1" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.2" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.2.cmml">X</mi><mo id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.1" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.1.cmml">⁢</mo><mtext id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.3" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.3a.cmml"> and </mtext><mo id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.1a" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.1.cmml">⁢</mo><msup id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.cmml"><mi id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.2" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.2.cmml">y</mi><mo id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.3" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.3.cmml">′</mo></msup></mrow><mo id="A1.E28Xb.4.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E28Xb.4.1.1.m1.1.1.1.2.1.cmml">|</mo></mrow><mo id="A1.E28Xb.4.1.1.m1.1.1.2a" xref="A1.E28Xb.4.1.1.m1.1.1.2.cmml">⁢</mo><mi id="A1.E28Xb.4.1.1.m1.1.1.4" xref="A1.E28Xb.4.1.1.m1.1.1.4.cmml">X</mi><mo id="A1.E28Xb.4.1.1.m1.1.1.2b" xref="A1.E28Xb.4.1.1.m1.1.1.2.cmml">⁢</mo><mtext id="A1.E28Xb.4.1.1.m1.1.1.5" xref="A1.E28Xb.4.1.1.m1.1.1.5a.cmml">are iid</mtext></mrow><annotation-xml encoding="MathML-Content" id="A1.E28Xb.4.1.1.m1.1b"><apply id="A1.E28Xb.4.1.1.m1.1.1.cmml" xref="A1.E28Xb.4.1.1.m1.1.1"><times id="A1.E28Xb.4.1.1.m1.1.1.2.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.2"></times><ci id="A1.E28Xb.4.1.1.m1.1.1.3.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.3">𝑦</ci><apply id="A1.E28Xb.4.1.1.m1.1.1.1.2.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1"><abs id="A1.E28Xb.4.1.1.m1.1.1.1.2.1.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.2"></abs><apply id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1"><times id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.1"></times><ci id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.2">𝑋</ci><ci id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.3a.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.3"><mtext id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.3"> and </mtext></ci><apply id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.1.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4">superscript</csymbol><ci id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.2.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.2">𝑦</ci><ci id="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.3.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.1.1.1.4.3">′</ci></apply></apply></apply><ci id="A1.E28Xb.4.1.1.m1.1.1.4.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.4">𝑋</ci><ci id="A1.E28Xb.4.1.1.m1.1.1.5a.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.5"><mtext id="A1.E28Xb.4.1.1.m1.1.1.5.cmml" xref="A1.E28Xb.4.1.1.m1.1.1.5">are iid</mtext></ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E28Xb.4.1.1.m1.1c">\displaystyle y|X\text{ and }y^{\prime}|X\text{are iid}</annotation><annotation encoding="application/x-llamapun" id="A1.E28Xb.4.1.1.m1.1d">italic_y | italic_X and italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_X are iid</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E28Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{C}[p(y|X),p(y^{\prime}|X)|[x]]" class="ltx_Math" display="inline" id="A1.E28Xc.2.1.1.m1.3"><semantics id="A1.E28Xc.2.1.1.m1.3a"><mrow id="A1.E28Xc.2.1.1.m1.3.3" xref="A1.E28Xc.2.1.1.m1.3.3.cmml"><mi id="A1.E28Xc.2.1.1.m1.3.3.4" xref="A1.E28Xc.2.1.1.m1.3.3.4.cmml"></mi><mo id="A1.E28Xc.2.1.1.m1.3.3.3" xref="A1.E28Xc.2.1.1.m1.3.3.3.cmml">=</mo><mrow id="A1.E28Xc.2.1.1.m1.3.3.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.cmml"><mi id="A1.E28Xc.2.1.1.m1.3.3.2.4" xref="A1.E28Xc.2.1.1.m1.3.3.2.4.cmml">ℂ</mi><mo id="A1.E28Xc.2.1.1.m1.3.3.2.3" xref="A1.E28Xc.2.1.1.m1.3.3.2.3.cmml">⁢</mo><mrow id="A1.E28Xc.2.1.1.m1.3.3.2.2.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.3.cmml"><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.3" stretchy="false" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.3.cmml">[</mo><mrow id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.cmml"><mi id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.3.cmml">p</mi><mo id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml"><mo id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml"><mi id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.4" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.3.cmml">,</mo><mrow id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.cmml"><mrow id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.cmml"><mi id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.3" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.3.cmml">p</mi><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.2.cmml">⁢</mo><mrow id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.cmml"><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.2" stretchy="false" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.cmml">(</mo><mrow id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.cmml"><msup id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.cmml"><mi id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.2.cmml">y</mi><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.3" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.1" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.3" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.3" stretchy="false" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.2.cmml">|</mo><mrow id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.2" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.1.cmml"><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.2.1" stretchy="false" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.1.1.cmml">[</mo><mi id="A1.E28Xc.2.1.1.m1.1.1" xref="A1.E28Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.2.2" stretchy="false" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.5" stretchy="false" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.3.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E28Xc.2.1.1.m1.3b"><apply id="A1.E28Xc.2.1.1.m1.3.3.cmml" xref="A1.E28Xc.2.1.1.m1.3.3"><eq id="A1.E28Xc.2.1.1.m1.3.3.3.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.3"></eq><csymbol cd="latexml" id="A1.E28Xc.2.1.1.m1.3.3.4.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.4">absent</csymbol><apply id="A1.E28Xc.2.1.1.m1.3.3.2.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2"><times id="A1.E28Xc.2.1.1.m1.3.3.2.3.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.3"></times><ci id="A1.E28Xc.2.1.1.m1.3.3.2.4.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.4">ℂ</ci><interval closure="closed" id="A1.E28Xc.2.1.1.m1.3.3.2.2.3.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2"><apply id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1"><times id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.2"></times><ci id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.3.cmml" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.3">𝑝</ci><apply id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2">𝑦</ci><ci id="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E28Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2"><csymbol cd="latexml" id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.2.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.2">conditional</csymbol><apply id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1"><times id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.2.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.2"></times><ci id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.3.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.3">𝑝</ci><apply id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1"><csymbol cd="latexml" id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.1.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.1">conditional</csymbol><apply id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.1.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2">superscript</csymbol><ci id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.2.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.2">𝑦</ci><ci id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.3.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.2.3">′</ci></apply><ci id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.3.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.1.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.2"><csymbol cd="latexml" id="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.1.1.cmml" xref="A1.E28Xc.2.1.1.m1.3.3.2.2.2.2.3.2.1">delimited-[]</csymbol><ci id="A1.E28Xc.2.1.1.m1.1.1.cmml" xref="A1.E28Xc.2.1.1.m1.1.1">𝑥</ci></apply></apply></interval></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E28Xc.2.1.1.m1.3c">\displaystyle=\mathbb{C}[p(y|X),p(y^{\prime}|X)|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E28Xc.2.1.1.m1.3d">= blackboard_C [ italic_p ( italic_y | italic_X ) , italic_p ( italic_y start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | italic_X ) | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\text{def. of }\mathbb{C}" class="ltx_Math" display="inline" id="A1.E28Xc.4.1.1.m1.1"><semantics id="A1.E28Xc.4.1.1.m1.1a"><mrow id="A1.E28Xc.4.1.1.m1.1.1" xref="A1.E28Xc.4.1.1.m1.1.1.cmml"><mtext id="A1.E28Xc.4.1.1.m1.1.1.2" xref="A1.E28Xc.4.1.1.m1.1.1.2a.cmml">def. of </mtext><mo id="A1.E28Xc.4.1.1.m1.1.1.1" xref="A1.E28Xc.4.1.1.m1.1.1.1.cmml">⁢</mo><mi id="A1.E28Xc.4.1.1.m1.1.1.3" xref="A1.E28Xc.4.1.1.m1.1.1.3.cmml">ℂ</mi></mrow><annotation-xml encoding="MathML-Content" id="A1.E28Xc.4.1.1.m1.1b"><apply id="A1.E28Xc.4.1.1.m1.1.1.cmml" xref="A1.E28Xc.4.1.1.m1.1.1"><times id="A1.E28Xc.4.1.1.m1.1.1.1.cmml" xref="A1.E28Xc.4.1.1.m1.1.1.1"></times><ci id="A1.E28Xc.4.1.1.m1.1.1.2a.cmml" xref="A1.E28Xc.4.1.1.m1.1.1.2"><mtext id="A1.E28Xc.4.1.1.m1.1.1.2.cmml" xref="A1.E28Xc.4.1.1.m1.1.1.2">def. of </mtext></ci><ci id="A1.E28Xc.4.1.1.m1.1.1.3.cmml" xref="A1.E28Xc.4.1.1.m1.1.1.3">ℂ</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E28Xc.4.1.1.m1.1c">\displaystyle\text{def. of }\mathbb{C}</annotation><annotation encoding="application/x-llamapun" id="A1.E28Xc.4.1.1.m1.1d">def. of blackboard_C</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.3.p1.2">∎</p> </div> </div> <div class="ltx_proof" id="A1.4"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of Theorem <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a>.</h6> <div class="ltx_para" id="A1.4.p1"> <table class="ltx_equation ltx_eqn_table" id="A1.E29"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]\triangleq\mathbb{E}_{\theta}[Y_{1}Y_{2}|x]-% \mathbb{E}_{\theta}[Y_{1}|x]\cdot\mathbb{E}_{\theta}[Y_{2}|x]\quad\text{% definition of $\mathbb{C}$}\\ " class="ltx_Math" display="block" id="A1.E29.m1.4"><semantics id="A1.E29.m1.4a"><mrow id="A1.E29.m1.4.4" xref="A1.E29.m1.4.4.cmml"><mrow id="A1.E29.m1.3.3.2" xref="A1.E29.m1.3.3.2.cmml"><msub id="A1.E29.m1.3.3.2.4" xref="A1.E29.m1.3.3.2.4.cmml"><mi id="A1.E29.m1.3.3.2.4.2" xref="A1.E29.m1.3.3.2.4.2.cmml">ℂ</mi><mi id="A1.E29.m1.3.3.2.4.3" xref="A1.E29.m1.3.3.2.4.3.cmml">θ</mi></msub><mo id="A1.E29.m1.3.3.2.3" xref="A1.E29.m1.3.3.2.3.cmml">⁢</mo><mrow id="A1.E29.m1.3.3.2.2.2" xref="A1.E29.m1.3.3.2.2.3.cmml"><mo id="A1.E29.m1.3.3.2.2.2.3" stretchy="false" xref="A1.E29.m1.3.3.2.2.3.cmml">[</mo><msub id="A1.E29.m1.2.2.1.1.1.1" xref="A1.E29.m1.2.2.1.1.1.1.cmml"><mi id="A1.E29.m1.2.2.1.1.1.1.2" xref="A1.E29.m1.2.2.1.1.1.1.2.cmml">Y</mi><mn id="A1.E29.m1.2.2.1.1.1.1.3" xref="A1.E29.m1.2.2.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E29.m1.3.3.2.2.2.4" xref="A1.E29.m1.3.3.2.2.3.cmml">,</mo><mrow id="A1.E29.m1.3.3.2.2.2.2" xref="A1.E29.m1.3.3.2.2.2.2.cmml"><msub id="A1.E29.m1.3.3.2.2.2.2.2" xref="A1.E29.m1.3.3.2.2.2.2.2.cmml"><mi id="A1.E29.m1.3.3.2.2.2.2.2.2" xref="A1.E29.m1.3.3.2.2.2.2.2.2.cmml">Y</mi><mn id="A1.E29.m1.3.3.2.2.2.2.2.3" xref="A1.E29.m1.3.3.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E29.m1.3.3.2.2.2.2.1" xref="A1.E29.m1.3.3.2.2.2.2.1.cmml">|</mo><mi id="A1.E29.m1.3.3.2.2.2.2.3" xref="A1.E29.m1.3.3.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.E29.m1.3.3.2.2.2.5" stretchy="false" xref="A1.E29.m1.3.3.2.2.3.cmml">]</mo></mrow></mrow><mo id="A1.E29.m1.4.4.4" xref="A1.E29.m1.4.4.4.cmml">≜</mo><mrow id="A1.E29.m1.4.4.3.1" xref="A1.E29.m1.4.4.3.2.cmml"><mrow id="A1.E29.m1.4.4.3.1.1" xref="A1.E29.m1.4.4.3.1.1.cmml"><mrow id="A1.E29.m1.4.4.3.1.1.1" xref="A1.E29.m1.4.4.3.1.1.1.cmml"><msub id="A1.E29.m1.4.4.3.1.1.1.3" xref="A1.E29.m1.4.4.3.1.1.1.3.cmml"><mi id="A1.E29.m1.4.4.3.1.1.1.3.2" xref="A1.E29.m1.4.4.3.1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E29.m1.4.4.3.1.1.1.3.3" xref="A1.E29.m1.4.4.3.1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E29.m1.4.4.3.1.1.1.2" xref="A1.E29.m1.4.4.3.1.1.1.2.cmml">⁢</mo><mrow id="A1.E29.m1.4.4.3.1.1.1.1.1" xref="A1.E29.m1.4.4.3.1.1.1.1.2.cmml"><mo id="A1.E29.m1.4.4.3.1.1.1.1.1.2" stretchy="false" xref="A1.E29.m1.4.4.3.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E29.m1.4.4.3.1.1.1.1.1.1" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.cmml"><mrow id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.cmml"><msub id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.cmml"><mi id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.2" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.2.cmml">Y</mi><mn id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.3" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.3.cmml">1</mn></msub><mo id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.1" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.1.cmml">⁢</mo><msub id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.cmml"><mi id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.2" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.2.cmml">Y</mi><mn id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.3" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.3.cmml">2</mn></msub></mrow><mo fence="false" id="A1.E29.m1.4.4.3.1.1.1.1.1.1.1" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E29.m1.4.4.3.1.1.1.1.1.1.3" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E29.m1.4.4.3.1.1.1.1.1.3" stretchy="false" xref="A1.E29.m1.4.4.3.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E29.m1.4.4.3.1.1.4" xref="A1.E29.m1.4.4.3.1.1.4.cmml">−</mo><mrow id="A1.E29.m1.4.4.3.1.1.3" xref="A1.E29.m1.4.4.3.1.1.3.cmml"><mrow id="A1.E29.m1.4.4.3.1.1.2.1" xref="A1.E29.m1.4.4.3.1.1.2.1.cmml"><mrow id="A1.E29.m1.4.4.3.1.1.2.1.1" xref="A1.E29.m1.4.4.3.1.1.2.1.1.cmml"><msub id="A1.E29.m1.4.4.3.1.1.2.1.1.3" xref="A1.E29.m1.4.4.3.1.1.2.1.1.3.cmml"><mi id="A1.E29.m1.4.4.3.1.1.2.1.1.3.2" xref="A1.E29.m1.4.4.3.1.1.2.1.1.3.2.cmml">𝔼</mi><mi id="A1.E29.m1.4.4.3.1.1.2.1.1.3.3" xref="A1.E29.m1.4.4.3.1.1.2.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E29.m1.4.4.3.1.1.2.1.1.2" xref="A1.E29.m1.4.4.3.1.1.2.1.1.2.cmml">⁢</mo><mrow id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.2.cmml"><mo id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.2" stretchy="false" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.2.1.cmml">[</mo><mrow id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.cmml"><msub id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.cmml"><mi id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.2" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.3" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.1" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.3" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E29.m1.4.4.3.1.1.2.1.2" rspace="0.222em" xref="A1.E29.m1.4.4.3.1.1.2.1.2.cmml">⋅</mo><msub id="A1.E29.m1.4.4.3.1.1.2.1.3" xref="A1.E29.m1.4.4.3.1.1.2.1.3.cmml"><mi id="A1.E29.m1.4.4.3.1.1.2.1.3.2" xref="A1.E29.m1.4.4.3.1.1.2.1.3.2.cmml">𝔼</mi><mi id="A1.E29.m1.4.4.3.1.1.2.1.3.3" xref="A1.E29.m1.4.4.3.1.1.2.1.3.3.cmml">θ</mi></msub></mrow><mo id="A1.E29.m1.4.4.3.1.1.3.3" xref="A1.E29.m1.4.4.3.1.1.3.3.cmml">⁢</mo><mrow id="A1.E29.m1.4.4.3.1.1.3.2.1" xref="A1.E29.m1.4.4.3.1.1.3.2.2.cmml"><mo id="A1.E29.m1.4.4.3.1.1.3.2.1.2" stretchy="false" xref="A1.E29.m1.4.4.3.1.1.3.2.2.1.cmml">[</mo><mrow id="A1.E29.m1.4.4.3.1.1.3.2.1.1" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.cmml"><msub id="A1.E29.m1.4.4.3.1.1.3.2.1.1.2" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.cmml"><mi id="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.2" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.2.cmml">Y</mi><mn id="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.3" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E29.m1.4.4.3.1.1.3.2.1.1.1" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.1.cmml">|</mo><mi id="A1.E29.m1.4.4.3.1.1.3.2.1.1.3" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.3.cmml">x</mi></mrow><mo id="A1.E29.m1.4.4.3.1.1.3.2.1.3" stretchy="false" xref="A1.E29.m1.4.4.3.1.1.3.2.2.1.cmml">]</mo></mrow></mrow></mrow><mspace id="A1.E29.m1.4.4.3.1.2" width="1em" xref="A1.E29.m1.4.4.3.2.cmml"></mspace><mrow id="A1.E29.m1.1.1" xref="A1.E29.m1.1.1e.cmml"><mrow id="A1.E29.m1.1.1a" xref="A1.E29.m1.1.1e.cmml"><mtext id="A1.E29.m1.1.1b" xref="A1.E29.m1.1.1e.cmml">definition of </mtext><mi id="A1.E29.m1.1.1.1.m1.1.1" xref="A1.E29.m1.1.1.1.m1.1.1.cmml">ℂ</mi></mrow><mtext id="A1.E29.m1.1.1c" xref="A1.E29.m1.1.1e.cmml"> <br class="ltx_break"/></mtext></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E29.m1.4b"><apply id="A1.E29.m1.4.4.cmml" xref="A1.E29.m1.4.4"><ci id="A1.E29.m1.4.4.4.cmml" xref="A1.E29.m1.4.4.4">≜</ci><apply id="A1.E29.m1.3.3.2.cmml" xref="A1.E29.m1.3.3.2"><times id="A1.E29.m1.3.3.2.3.cmml" xref="A1.E29.m1.3.3.2.3"></times><apply id="A1.E29.m1.3.3.2.4.cmml" xref="A1.E29.m1.3.3.2.4"><csymbol cd="ambiguous" id="A1.E29.m1.3.3.2.4.1.cmml" xref="A1.E29.m1.3.3.2.4">subscript</csymbol><ci id="A1.E29.m1.3.3.2.4.2.cmml" xref="A1.E29.m1.3.3.2.4.2">ℂ</ci><ci id="A1.E29.m1.3.3.2.4.3.cmml" xref="A1.E29.m1.3.3.2.4.3">𝜃</ci></apply><interval closure="closed" id="A1.E29.m1.3.3.2.2.3.cmml" xref="A1.E29.m1.3.3.2.2.2"><apply id="A1.E29.m1.2.2.1.1.1.1.cmml" xref="A1.E29.m1.2.2.1.1.1.1"><csymbol cd="ambiguous" id="A1.E29.m1.2.2.1.1.1.1.1.cmml" xref="A1.E29.m1.2.2.1.1.1.1">subscript</csymbol><ci id="A1.E29.m1.2.2.1.1.1.1.2.cmml" xref="A1.E29.m1.2.2.1.1.1.1.2">𝑌</ci><cn id="A1.E29.m1.2.2.1.1.1.1.3.cmml" type="integer" xref="A1.E29.m1.2.2.1.1.1.1.3">1</cn></apply><apply id="A1.E29.m1.3.3.2.2.2.2.cmml" xref="A1.E29.m1.3.3.2.2.2.2"><csymbol cd="latexml" id="A1.E29.m1.3.3.2.2.2.2.1.cmml" xref="A1.E29.m1.3.3.2.2.2.2.1">conditional</csymbol><apply id="A1.E29.m1.3.3.2.2.2.2.2.cmml" xref="A1.E29.m1.3.3.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E29.m1.3.3.2.2.2.2.2.1.cmml" xref="A1.E29.m1.3.3.2.2.2.2.2">subscript</csymbol><ci id="A1.E29.m1.3.3.2.2.2.2.2.2.cmml" xref="A1.E29.m1.3.3.2.2.2.2.2.2">𝑌</ci><cn id="A1.E29.m1.3.3.2.2.2.2.2.3.cmml" type="integer" xref="A1.E29.m1.3.3.2.2.2.2.2.3">2</cn></apply><ci id="A1.E29.m1.3.3.2.2.2.2.3.cmml" xref="A1.E29.m1.3.3.2.2.2.2.3">𝑥</ci></apply></interval></apply><list id="A1.E29.m1.4.4.3.2.cmml" xref="A1.E29.m1.4.4.3.1"><apply id="A1.E29.m1.4.4.3.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1"><minus id="A1.E29.m1.4.4.3.1.1.4.cmml" xref="A1.E29.m1.4.4.3.1.1.4"></minus><apply id="A1.E29.m1.4.4.3.1.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1"><times id="A1.E29.m1.4.4.3.1.1.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.1.2"></times><apply id="A1.E29.m1.4.4.3.1.1.1.3.cmml" xref="A1.E29.m1.4.4.3.1.1.1.3"><csymbol cd="ambiguous" id="A1.E29.m1.4.4.3.1.1.1.3.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1.3">subscript</csymbol><ci id="A1.E29.m1.4.4.3.1.1.1.3.2.cmml" xref="A1.E29.m1.4.4.3.1.1.1.3.2">𝔼</ci><ci id="A1.E29.m1.4.4.3.1.1.1.3.3.cmml" xref="A1.E29.m1.4.4.3.1.1.1.3.3">𝜃</ci></apply><apply id="A1.E29.m1.4.4.3.1.1.1.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1"><csymbol cd="latexml" id="A1.E29.m1.4.4.3.1.1.1.1.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E29.m1.4.4.3.1.1.1.1.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E29.m1.4.4.3.1.1.1.1.1.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2"><times id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.1"></times><apply id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.2.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.2">𝑌</ci><cn id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.3.cmml" type="integer" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.2.3">1</cn></apply><apply id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3"><csymbol cd="ambiguous" id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.1.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3">subscript</csymbol><ci id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.2.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.2">𝑌</ci><cn id="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.3.cmml" type="integer" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.2.3.3">2</cn></apply></apply><ci id="A1.E29.m1.4.4.3.1.1.1.1.1.1.3.cmml" xref="A1.E29.m1.4.4.3.1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply><apply id="A1.E29.m1.4.4.3.1.1.3.cmml" xref="A1.E29.m1.4.4.3.1.1.3"><times id="A1.E29.m1.4.4.3.1.1.3.3.cmml" xref="A1.E29.m1.4.4.3.1.1.3.3"></times><apply id="A1.E29.m1.4.4.3.1.1.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1"><ci id="A1.E29.m1.4.4.3.1.1.2.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.2">⋅</ci><apply id="A1.E29.m1.4.4.3.1.1.2.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1"><times id="A1.E29.m1.4.4.3.1.1.2.1.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.2"></times><apply id="A1.E29.m1.4.4.3.1.1.2.1.1.3.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.3"><csymbol cd="ambiguous" id="A1.E29.m1.4.4.3.1.1.2.1.1.3.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.3">subscript</csymbol><ci id="A1.E29.m1.4.4.3.1.1.2.1.1.3.2.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.3.2">𝔼</ci><ci id="A1.E29.m1.4.4.3.1.1.2.1.1.3.3.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.3.3">𝜃</ci></apply><apply id="A1.E29.m1.4.4.3.1.1.2.1.1.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1"><csymbol cd="latexml" id="A1.E29.m1.4.4.3.1.1.2.1.1.1.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.2.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.3.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.1.1.1.1.3">𝑥</ci></apply></apply></apply><apply id="A1.E29.m1.4.4.3.1.1.2.1.3.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.3"><csymbol cd="ambiguous" id="A1.E29.m1.4.4.3.1.1.2.1.3.1.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.3">subscript</csymbol><ci id="A1.E29.m1.4.4.3.1.1.2.1.3.2.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.3.2">𝔼</ci><ci id="A1.E29.m1.4.4.3.1.1.2.1.3.3.cmml" xref="A1.E29.m1.4.4.3.1.1.2.1.3.3">𝜃</ci></apply></apply><apply id="A1.E29.m1.4.4.3.1.1.3.2.2.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1"><csymbol cd="latexml" id="A1.E29.m1.4.4.3.1.1.3.2.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1.2">delimited-[]</csymbol><apply id="A1.E29.m1.4.4.3.1.1.3.2.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1"><csymbol cd="latexml" id="A1.E29.m1.4.4.3.1.1.3.2.1.1.1.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.1">conditional</csymbol><apply id="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.2"><csymbol cd="ambiguous" id="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.1.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.2">subscript</csymbol><ci id="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.2.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.2">𝑌</ci><cn id="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.3.cmml" type="integer" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.2.3">2</cn></apply><ci id="A1.E29.m1.4.4.3.1.1.3.2.1.1.3.cmml" xref="A1.E29.m1.4.4.3.1.1.3.2.1.1.3">𝑥</ci></apply></apply></apply></apply><ci id="A1.E29.m1.1.1e.cmml" xref="A1.E29.m1.1.1"><mrow id="A1.E29.m1.1.1.cmml" xref="A1.E29.m1.1.1"><mrow id="A1.E29.m1.1.1a.cmml" xref="A1.E29.m1.1.1"><mtext id="A1.E29.m1.1.1b.cmml" xref="A1.E29.m1.1.1">definition of </mtext><mi id="A1.E29.m1.1.1.1.m1.1.1.cmml" xref="A1.E29.m1.1.1.1.m1.1.1">ℂ</mi></mrow><mtext id="A1.E29.m1.1.1c.cmml" xref="A1.E29.m1.1.1"> <br class="ltx_break"/></mtext></mrow></ci></list></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E29.m1.4c">\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]\triangleq\mathbb{E}_{\theta}[Y_{1}Y_{2}|x]-% \mathbb{E}_{\theta}[Y_{1}|x]\cdot\mathbb{E}_{\theta}[Y_{2}|x]\quad\text{% definition of $\mathbb{C}$}\\ </annotation><annotation encoding="application/x-llamapun" id="A1.E29.m1.4d">blackboard_C start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ] ≜ blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ] - blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ] ⋅ blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ] definition of C</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(29)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A1.4.p1.1">begin by the first term:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E30"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E30X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathbb{E}_{\theta}[Y_{1}Y_{2}|x]" class="ltx_Math" display="inline" id="A1.E30X.2.1.1.m1.1"><semantics id="A1.E30X.2.1.1.m1.1a"><mrow id="A1.E30X.2.1.1.m1.1.1" xref="A1.E30X.2.1.1.m1.1.1.cmml"><msub id="A1.E30X.2.1.1.m1.1.1.3" xref="A1.E30X.2.1.1.m1.1.1.3.cmml"><mi id="A1.E30X.2.1.1.m1.1.1.3.2" xref="A1.E30X.2.1.1.m1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E30X.2.1.1.m1.1.1.3.3" xref="A1.E30X.2.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E30X.2.1.1.m1.1.1.2" xref="A1.E30X.2.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E30X.2.1.1.m1.1.1.1.1" xref="A1.E30X.2.1.1.m1.1.1.1.2.cmml"><mo id="A1.E30X.2.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E30X.2.1.1.m1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E30X.2.1.1.m1.1.1.1.1.1" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.cmml"><mrow id="A1.E30X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.cmml"><msub id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.cmml"><mi id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.2" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.2.cmml">Y</mi><mn id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.3" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.3.cmml">1</mn></msub><mo id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.1" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.1.cmml">⁢</mo><msub id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.cmml"><mi id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.2" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.2.cmml">Y</mi><mn id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.3" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.3.cmml">2</mn></msub></mrow><mo fence="false" id="A1.E30X.2.1.1.m1.1.1.1.1.1.1" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E30X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E30X.2.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E30X.2.1.1.m1.1.1.1.2.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E30X.2.1.1.m1.1b"><apply id="A1.E30X.2.1.1.m1.1.1.cmml" xref="A1.E30X.2.1.1.m1.1.1"><times id="A1.E30X.2.1.1.m1.1.1.2.cmml" xref="A1.E30X.2.1.1.m1.1.1.2"></times><apply id="A1.E30X.2.1.1.m1.1.1.3.cmml" xref="A1.E30X.2.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A1.E30X.2.1.1.m1.1.1.3.1.cmml" xref="A1.E30X.2.1.1.m1.1.1.3">subscript</csymbol><ci id="A1.E30X.2.1.1.m1.1.1.3.2.cmml" xref="A1.E30X.2.1.1.m1.1.1.3.2">𝔼</ci><ci id="A1.E30X.2.1.1.m1.1.1.3.3.cmml" xref="A1.E30X.2.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A1.E30X.2.1.1.m1.1.1.1.2.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A1.E30X.2.1.1.m1.1.1.1.2.1.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E30X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E30X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2"><times id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.1.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.1"></times><apply id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.1.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.2.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.2">𝑌</ci><cn id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.3.cmml" type="integer" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.2.3">1</cn></apply><apply id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3"><csymbol cd="ambiguous" id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.1.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3">subscript</csymbol><ci id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.2.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.2">𝑌</ci><cn id="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.3.cmml" type="integer" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.2.3.3">2</cn></apply></apply><ci id="A1.E30X.2.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E30X.2.1.1.m1.1.1.1.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E30X.2.1.1.m1.1c">\displaystyle\mathbb{E}_{\theta}[Y_{1}Y_{2}|x]</annotation><annotation encoding="application/x-llamapun" id="A1.E30X.2.1.1.m1.1d">blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}p_{\theta}(y_{1},y_% {2}|x)\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_Math" display="inline" id="A1.E30X.3.2.2.m1.2"><semantics id="A1.E30X.3.2.2.m1.2a"><mrow id="A1.E30X.3.2.2.m1.2.2" xref="A1.E30X.3.2.2.m1.2.2.cmml"><mi id="A1.E30X.3.2.2.m1.2.2.4" xref="A1.E30X.3.2.2.m1.2.2.4.cmml"></mi><mo id="A1.E30X.3.2.2.m1.2.2.3" xref="A1.E30X.3.2.2.m1.2.2.3.cmml">=</mo><mrow id="A1.E30X.3.2.2.m1.2.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.cmml"><mstyle displaystyle="true" id="A1.E30X.3.2.2.m1.2.2.2.3" xref="A1.E30X.3.2.2.m1.2.2.2.3.cmml"><msub id="A1.E30X.3.2.2.m1.2.2.2.3a" xref="A1.E30X.3.2.2.m1.2.2.2.3.cmml"><mo id="A1.E30X.3.2.2.m1.2.2.2.3.2" xref="A1.E30X.3.2.2.m1.2.2.2.3.2.cmml">∫</mo><mrow id="A1.E30X.3.2.2.m1.2.2.2.3.3" xref="A1.E30X.3.2.2.m1.2.2.2.3.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E30X.3.2.2.m1.2.2.2.3.3.2" xref="A1.E30X.3.2.2.m1.2.2.2.3.3.2.cmml">𝒴</mi><mo id="A1.E30X.3.2.2.m1.2.2.2.3.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E30X.3.2.2.m1.2.2.2.3.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E30X.3.2.2.m1.2.2.2.3.3.3" xref="A1.E30X.3.2.2.m1.2.2.2.3.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E30X.3.2.2.m1.2.2.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.cmml"><msub id="A1.E30X.3.2.2.m1.2.2.2.2.4" xref="A1.E30X.3.2.2.m1.2.2.2.2.4.cmml"><mi id="A1.E30X.3.2.2.m1.2.2.2.2.4.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.4.2.cmml">y</mi><mn id="A1.E30X.3.2.2.m1.2.2.2.2.4.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.4.3.cmml">1</mn></msub><mo id="A1.E30X.3.2.2.m1.2.2.2.2.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><msub id="A1.E30X.3.2.2.m1.2.2.2.2.5" xref="A1.E30X.3.2.2.m1.2.2.2.2.5.cmml"><mi id="A1.E30X.3.2.2.m1.2.2.2.2.5.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.5.2.cmml">y</mi><mn id="A1.E30X.3.2.2.m1.2.2.2.2.5.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.5.3.cmml">2</mn></msub><mo id="A1.E30X.3.2.2.m1.2.2.2.2.3a" xref="A1.E30X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><msub id="A1.E30X.3.2.2.m1.2.2.2.2.6" xref="A1.E30X.3.2.2.m1.2.2.2.2.6.cmml"><mi id="A1.E30X.3.2.2.m1.2.2.2.2.6.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.6.2.cmml">p</mi><mi id="A1.E30X.3.2.2.m1.2.2.2.2.6.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.6.3.cmml">θ</mi></msub><mo id="A1.E30X.3.2.2.m1.2.2.2.2.3b" xref="A1.E30X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E30X.3.2.2.m1.2.2.2.2.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.3.cmml"><mo id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.3" stretchy="false" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.3.cmml">(</mo><msub id="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1" xref="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.cmml"><mi id="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.2" xref="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.3" xref="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.4" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.3.cmml">,</mo><mrow id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.cmml"><msub id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.cmml"><mi id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.2.cmml">y</mi><mn id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.1" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.1.cmml">|</mo><mi id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.5" stretchy="false" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.3.cmml">)</mo></mrow><mo id="A1.E30X.3.2.2.m1.2.2.2.2.3c" lspace="0em" xref="A1.E30X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E30X.3.2.2.m1.2.2.2.2.7" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.cmml"><mo id="A1.E30X.3.2.2.m1.2.2.2.2.7.1" rspace="0em" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.1.cmml">d</mo><msub id="A1.E30X.3.2.2.m1.2.2.2.2.7.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.2.cmml"><mi id="A1.E30X.3.2.2.m1.2.2.2.2.7.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.2.2.cmml">y</mi><mn id="A1.E30X.3.2.2.m1.2.2.2.2.7.2.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.2.3.cmml">1</mn></msub></mrow><mo id="A1.E30X.3.2.2.m1.2.2.2.2.3d" lspace="0em" xref="A1.E30X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E30X.3.2.2.m1.2.2.2.2.8" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.cmml"><mo id="A1.E30X.3.2.2.m1.2.2.2.2.8.1" rspace="0em" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.1.cmml">d</mo><msub id="A1.E30X.3.2.2.m1.2.2.2.2.8.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.2.cmml"><mi id="A1.E30X.3.2.2.m1.2.2.2.2.8.2.2" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.2.2.cmml">y</mi><mn id="A1.E30X.3.2.2.m1.2.2.2.2.8.2.3" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E30X.3.2.2.m1.2b"><apply id="A1.E30X.3.2.2.m1.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2"><eq id="A1.E30X.3.2.2.m1.2.2.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.3"></eq><csymbol cd="latexml" id="A1.E30X.3.2.2.m1.2.2.4.cmml" xref="A1.E30X.3.2.2.m1.2.2.4">absent</csymbol><apply id="A1.E30X.3.2.2.m1.2.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2"><apply id="A1.E30X.3.2.2.m1.2.2.2.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.3"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.2.2.2.3.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.3">subscript</csymbol><int id="A1.E30X.3.2.2.m1.2.2.2.3.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.3.2"></int><apply id="A1.E30X.3.2.2.m1.2.2.2.3.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.3.3"><times id="A1.E30X.3.2.2.m1.2.2.2.3.3.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.3.3.1"></times><ci id="A1.E30X.3.2.2.m1.2.2.2.3.3.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.3.3.2">𝒴</ci><ci id="A1.E30X.3.2.2.m1.2.2.2.3.3.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.3.3.3">𝒴</ci></apply></apply><apply id="A1.E30X.3.2.2.m1.2.2.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2"><times id="A1.E30X.3.2.2.m1.2.2.2.2.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.3"></times><apply id="A1.E30X.3.2.2.m1.2.2.2.2.4.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.4"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.2.2.2.2.4.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.4">subscript</csymbol><ci id="A1.E30X.3.2.2.m1.2.2.2.2.4.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.4.2">𝑦</ci><cn id="A1.E30X.3.2.2.m1.2.2.2.2.4.3.cmml" type="integer" xref="A1.E30X.3.2.2.m1.2.2.2.2.4.3">1</cn></apply><apply id="A1.E30X.3.2.2.m1.2.2.2.2.5.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.5"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.2.2.2.2.5.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.5">subscript</csymbol><ci id="A1.E30X.3.2.2.m1.2.2.2.2.5.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.5.2">𝑦</ci><cn id="A1.E30X.3.2.2.m1.2.2.2.2.5.3.cmml" type="integer" xref="A1.E30X.3.2.2.m1.2.2.2.2.5.3">2</cn></apply><apply id="A1.E30X.3.2.2.m1.2.2.2.2.6.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.6"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.2.2.2.2.6.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.6">subscript</csymbol><ci id="A1.E30X.3.2.2.m1.2.2.2.2.6.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.6.2">𝑝</ci><ci id="A1.E30X.3.2.2.m1.2.2.2.2.6.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.6.3">𝜃</ci></apply><interval closure="open" id="A1.E30X.3.2.2.m1.2.2.2.2.2.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2"><apply id="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.cmml" xref="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.1.cmml" xref="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml" xref="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E30X.3.2.2.m1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2"><csymbol cd="latexml" id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.1">conditional</csymbol><apply id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2">subscript</csymbol><ci id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.2">𝑦</ci><cn id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.3.cmml" type="integer" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.2.3">2</cn></apply><ci id="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.3.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.2.2.2.3">𝑥</ci></apply></interval><apply id="A1.E30X.3.2.2.m1.2.2.2.2.7.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.7"><csymbol cd="latexml" id="A1.E30X.3.2.2.m1.2.2.2.2.7.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.1">differential-d</csymbol><apply id="A1.E30X.3.2.2.m1.2.2.2.2.7.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.2"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.2.2.2.2.7.2.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.2">subscript</csymbol><ci id="A1.E30X.3.2.2.m1.2.2.2.2.7.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.2.2">𝑦</ci><cn id="A1.E30X.3.2.2.m1.2.2.2.2.7.2.3.cmml" type="integer" xref="A1.E30X.3.2.2.m1.2.2.2.2.7.2.3">1</cn></apply></apply><apply id="A1.E30X.3.2.2.m1.2.2.2.2.8.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.8"><csymbol cd="latexml" id="A1.E30X.3.2.2.m1.2.2.2.2.8.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.1">differential-d</csymbol><apply id="A1.E30X.3.2.2.m1.2.2.2.2.8.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.2"><csymbol cd="ambiguous" id="A1.E30X.3.2.2.m1.2.2.2.2.8.2.1.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.2">subscript</csymbol><ci id="A1.E30X.3.2.2.m1.2.2.2.2.8.2.2.cmml" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.2.2">𝑦</ci><cn id="A1.E30X.3.2.2.m1.2.2.2.2.8.2.3.cmml" type="integer" xref="A1.E30X.3.2.2.m1.2.2.2.2.8.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E30X.3.2.2.m1.2c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}p_{\theta}(y_{1},y_% {2}|x)\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E30X.3.2.2.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E30X.5.1.1.1">definition of </span><math alttext="\mathbb{E}" class="ltx_markedasmath" display="inline" id="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">𝔼</mi><annotation-xml encoding="MathML-Content" id="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1.1">𝔼</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{E}</annotation><annotation encoding="application/x-llamapun" id="A1.E30.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_E</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="4"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(30)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E30Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}\left(\int_{% \mathcal{X}}p(y_{1}|x^{\prime})p(y_{2}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}x% ^{\prime}\right)\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_Math" display="inline" id="A1.E30Xa.2.1.1.m1.2"><semantics id="A1.E30Xa.2.1.1.m1.2a"><mrow id="A1.E30Xa.2.1.1.m1.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E30Xa.2.1.1.m1.2.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.cmml"><mstyle displaystyle="true" id="A1.E30Xa.2.1.1.m1.2.2.1.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.cmml"><msub id="A1.E30Xa.2.1.1.m1.2.2.1.2a" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.2.cmml">∫</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E30Xa.2.1.1.m1.2.2.1.2.3.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3.2.cmml">𝒴</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.2.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E30Xa.2.1.1.m1.2.2.1.2.3.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.cmml"><msub id="A1.E30Xa.2.1.1.m1.2.2.1.1.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.3.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.3.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.3.2.cmml">y</mi><mn id="A1.E30Xa.2.1.1.m1.2.2.1.1.3.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.3.3.cmml">1</mn></msub><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><msub id="A1.E30Xa.2.1.1.m1.2.2.1.1.4" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.4.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.4.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.4.2.cmml">y</mi><mn id="A1.E30Xa.2.1.1.m1.2.2.1.1.4.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.4.3.cmml">2</mn></msub><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.2a" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><msub id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4a" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml">p</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4a" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml">p</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4b" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><msub id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml">y</mi><mn id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><msup id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.cmml">x</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4c" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.cmml">p</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4d" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.2" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">(</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><msup id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml">x</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml">|</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">[</mo><mi id="A1.E30Xa.2.1.1.m1.1.1" xref="A1.E30Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.2" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.3" stretchy="false" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">)</mo></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4e" lspace="0em" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.1" rspace="0em" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.1.cmml">d</mo><msup id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2.cmml">x</mi><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3.cmml">′</mo></msup></mrow></mrow></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.2b" lspace="0em" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.5" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.1" rspace="0em" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.1.cmml">d</mo><msub id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.2.cmml">y</mi><mn id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.3.cmml">1</mn></msub></mrow><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.2c" lspace="0em" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E30Xa.2.1.1.m1.2.2.1.1.6" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.cmml"><mo id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.1" rspace="0em" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.1.cmml">d</mo><msub id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.cmml"><mi id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.2" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.2.cmml">y</mi><mn id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.3" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E30Xa.2.1.1.m1.2b"><apply id="A1.E30Xa.2.1.1.m1.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2"><eq id="A1.E30Xa.2.1.1.m1.2.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E30Xa.2.1.1.m1.2.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1"><apply id="A1.E30Xa.2.1.1.m1.2.2.1.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.2"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.2">subscript</csymbol><int id="A1.E30Xa.2.1.1.m1.2.2.1.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.2"></int><apply id="A1.E30Xa.2.1.1.m1.2.2.1.2.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3"><times id="A1.E30Xa.2.1.1.m1.2.2.1.2.3.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3.1"></times><ci id="A1.E30Xa.2.1.1.m1.2.2.1.2.3.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3.2">𝒴</ci><ci id="A1.E30Xa.2.1.1.m1.2.2.1.2.3.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.2.3.3">𝒴</ci></apply></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1"><times id="A1.E30Xa.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.2"></times><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.3.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.3">subscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.3.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.3.2">𝑦</ci><cn id="A1.E30Xa.2.1.1.m1.2.2.1.1.3.3.cmml" type="integer" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.3.3">1</cn></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.4.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.4"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.4.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.4">subscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.4.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.4.2">𝑦</ci><cn id="A1.E30Xa.2.1.1.m1.2.2.1.1.4.3.cmml" type="integer" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.4.3">2</cn></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1"><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4">subscript</csymbol><int id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2"></int><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3">𝒳</ci></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3"><times id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4"></times><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5">𝑝</ci><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3">′</ci></apply></apply><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6">𝑝</ci><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2">subscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2">𝑦</ci><cn id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml" type="integer" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3">2</cn></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3">superscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2">𝑥</ci><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3">′</ci></apply></apply><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7">𝑝</ci><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1"><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1">conditional</csymbol><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2">superscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2">𝑥</ci><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3">′</ci></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2"><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E30Xa.2.1.1.m1.1.1.cmml" xref="A1.E30Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8"><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.1">differential-d</csymbol><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2">superscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2">𝑥</ci><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3">′</ci></apply></apply></apply></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5"><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.1">differential-d</csymbol><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2">subscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.2">𝑦</ci><cn id="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.3.cmml" type="integer" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.5.2.3">1</cn></apply></apply><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6"><csymbol cd="latexml" id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.1">differential-d</csymbol><apply id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2"><csymbol cd="ambiguous" id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.1.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2">subscript</csymbol><ci id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.2.cmml" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.2">𝑦</ci><cn id="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.3.cmml" type="integer" xref="A1.E30Xa.2.1.1.m1.2.2.1.1.6.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E30Xa.2.1.1.m1.2c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}\left(\int_{% \mathcal{X}}p(y_{1}|x^{\prime})p(y_{2}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}x% ^{\prime}\right)\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E30Xa.2.1.1.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ( ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E30Xa.4.1.1.1">Eq. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem3" title="Definition 2.3. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.3</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E30Xa.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E30Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{X}}p(x^{\prime}|[x])\left(\int_{\mathcal{Y}}y_{1}% p(y_{1}|x^{\prime})\mathrm{d}y_{1}\int_{\mathcal{Y}}y_{2}p(y_{2}|x^{\prime})% \mathrm{d}y_{2}\right)\mathrm{d}x^{\prime}" class="ltx_Math" display="inline" id="A1.E30Xb.2.1.1.m1.3"><semantics id="A1.E30Xb.2.1.1.m1.3a"><mrow id="A1.E30Xb.2.1.1.m1.3.3" xref="A1.E30Xb.2.1.1.m1.3.3.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.4" xref="A1.E30Xb.2.1.1.m1.3.3.4.cmml"></mi><mo id="A1.E30Xb.2.1.1.m1.3.3.3" xref="A1.E30Xb.2.1.1.m1.3.3.3.cmml">=</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.cmml"><mstyle displaystyle="true" id="A1.E30Xb.2.1.1.m1.3.3.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.3.cmml"><msub id="A1.E30Xb.2.1.1.m1.3.3.2.3a" xref="A1.E30Xb.2.1.1.m1.3.3.2.3.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.3.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E30Xb.2.1.1.m1.3.3.2.3.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.3.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.4" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.4.cmml">p</mi><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.2" stretchy="false" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><msup id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mi id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml">x</mi><mo id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.1.cmml">|</mo><mrow id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml"><mo id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E30Xb.2.1.1.m1.1.1" xref="A1.E30Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.3" stretchy="false" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.3a" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml">(</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml"><mstyle displaystyle="true" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.cmml"><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3a" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml"><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.2.cmml">y</mi><mn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.3.cmml">1</mn></msub><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml">⁢</mo><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.5" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.5.cmml">p</mi><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3a" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.2" stretchy="false" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml"><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.3" stretchy="false" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3b" lspace="0em" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.1" rspace="0em" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.1.cmml">d</mo><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.2.cmml">y</mi><mn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.3.cmml">1</mn></msub></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3c" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml"><mstyle displaystyle="true" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.cmml"><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2a" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.cmml"><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.2.cmml">y</mi><mn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.3.cmml">2</mn></msub><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2.cmml">⁢</mo><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.4" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.4.cmml">p</mi><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2a" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.2" stretchy="false" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.cmml">(</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.cmml"><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.1" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.1.cmml">|</mo><msup id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.3" stretchy="false" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2b" lspace="0em" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.1" rspace="0em" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.1.cmml">d</mo><msub id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.2.cmml">y</mi><mn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.3b" lspace="0em" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E30Xb.2.1.1.m1.3.3.2.2.5" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.cmml"><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.1" rspace="0em" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.1.cmml">d</mo><msup id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.cmml"><mi id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.2" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.2.cmml">x</mi><mo id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.3" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.3.cmml">′</mo></msup></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E30Xb.2.1.1.m1.3b"><apply id="A1.E30Xb.2.1.1.m1.3.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3"><eq id="A1.E30Xb.2.1.1.m1.3.3.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.3"></eq><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.3.3.4.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.4">absent</csymbol><apply id="A1.E30Xb.2.1.1.m1.3.3.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2"><apply id="A1.E30Xb.2.1.1.m1.3.3.2.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.3"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.3.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.3">subscript</csymbol><int id="A1.E30Xb.2.1.1.m1.3.3.2.3.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.3.2"></int><ci id="A1.E30Xb.2.1.1.m1.3.3.2.3.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.3.3">𝒳</ci></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2"><times id="A1.E30Xb.2.1.1.m1.3.3.2.2.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.3"></times><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.4.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.4">𝑝</ci><apply id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2">superscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2">𝑥</ci><ci id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.2.3">′</ci></apply><apply id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.2.2.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E30Xb.2.1.1.m1.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1"><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3">subscript</csymbol><int id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.2"></int><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.3.3">𝒴</ci></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2"><times id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.3"></times><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4">subscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.2">𝑦</ci><cn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.3.cmml" type="integer" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.4.3">1</cn></apply><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.5.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.5">𝑝</ci><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.1.1.1.1.3.3">′</ci></apply></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6"><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.1">differential-d</csymbol><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2">subscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.2">𝑦</ci><cn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.3.cmml" type="integer" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.6.2.3">1</cn></apply></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2"><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2">subscript</csymbol><int id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.2"></int><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.2.3">𝒴</ci></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1"><times id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.2"></times><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3">subscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.2">𝑦</ci><cn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.3.cmml" type="integer" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.3.3">2</cn></apply><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.4.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.4">𝑝</ci><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1"><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.1">conditional</csymbol><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2">subscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.2">𝑦</ci><cn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.3.cmml" type="integer" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.2.3">2</cn></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3">superscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.2">𝑥</ci><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.1.1.1.3.3">′</ci></apply></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5"><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.1">differential-d</csymbol><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2">subscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.2">𝑦</ci><cn id="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.3.cmml" type="integer" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.2.1.1.2.2.1.5.2.3">2</cn></apply></apply></apply></apply></apply></apply><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5"><csymbol cd="latexml" id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.1">differential-d</csymbol><apply id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2"><csymbol cd="ambiguous" id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.1.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2">superscript</csymbol><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.2.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.2">𝑥</ci><ci id="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.3.cmml" xref="A1.E30Xb.2.1.1.m1.3.3.2.2.5.2.3">′</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E30Xb.2.1.1.m1.3c">\displaystyle=\int_{\mathcal{X}}p(x^{\prime}|[x])\left(\int_{\mathcal{Y}}y_{1}% p(y_{1}|x^{\prime})\mathrm{d}y_{1}\int_{\mathcal{Y}}y_{2}p(y_{2}|x^{\prime})% \mathrm{d}y_{2}\right)\mathrm{d}x^{\prime}</annotation><annotation encoding="application/x-llamapun" id="A1.E30Xb.2.1.1.m1.3d">= ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) ( ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E30Xb.4.1.1.1">Fubini</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E30Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]" class="ltx_Math" display="inline" id="A1.E30Xc.2.1.1.m1.2"><semantics id="A1.E30Xc.2.1.1.m1.2a"><mrow id="A1.E30Xc.2.1.1.m1.2.2" xref="A1.E30Xc.2.1.1.m1.2.2.cmml"><mi id="A1.E30Xc.2.1.1.m1.2.2.3" xref="A1.E30Xc.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E30Xc.2.1.1.m1.2.2.2" xref="A1.E30Xc.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E30Xc.2.1.1.m1.2.2.1" xref="A1.E30Xc.2.1.1.m1.2.2.1.cmml"><mi id="A1.E30Xc.2.1.1.m1.2.2.1.3" xref="A1.E30Xc.2.1.1.m1.2.2.1.3.cmml">𝔼</mi><mo id="A1.E30Xc.2.1.1.m1.2.2.1.2" xref="A1.E30Xc.2.1.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="A1.E30Xc.2.1.1.m1.2.2.1.1.1" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.2.cmml"><mo id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.2" stretchy="false" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.cmml"><mrow id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml"><msup id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mi id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml"><mo id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.2.cmml">|</mo><mrow id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.2" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.1.cmml"><mo id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.2.1" stretchy="false" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E30Xc.2.1.1.m1.1.1" xref="A1.E30Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.2.2" stretchy="false" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.3" stretchy="false" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E30Xc.2.1.1.m1.2b"><apply id="A1.E30Xc.2.1.1.m1.2.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2"><eq id="A1.E30Xc.2.1.1.m1.2.2.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E30Xc.2.1.1.m1.2.2.3.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E30Xc.2.1.1.m1.2.2.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1"><times id="A1.E30Xc.2.1.1.m1.2.2.1.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.2"></times><ci id="A1.E30Xc.2.1.1.m1.2.2.1.3.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.3">𝔼</ci><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="A1.E30Xc.2.1.1.m1.2.2.1.1.2.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.2">conditional</csymbol><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1"><times id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.2"></times><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2">𝔼</ci><cn id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3">2</cn></apply><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml" xref="A1.E30Xc.2.1.1.m1.2.2.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E30Xc.2.1.1.m1.1.1.cmml" xref="A1.E30Xc.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E30Xc.2.1.1.m1.2c">\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E30Xc.2.1.1.m1.2d">= blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle Y_{1}|X\text{ and }Y_{2}|X\text{ are iid}" class="ltx_Math" display="inline" id="A1.E30Xc.4.1.1.m1.1"><semantics id="A1.E30Xc.4.1.1.m1.1a"><mrow id="A1.E30Xc.4.1.1.m1.1.1" xref="A1.E30Xc.4.1.1.m1.1.1.cmml"><msub id="A1.E30Xc.4.1.1.m1.1.1.3" xref="A1.E30Xc.4.1.1.m1.1.1.3.cmml"><mi id="A1.E30Xc.4.1.1.m1.1.1.3.2" xref="A1.E30Xc.4.1.1.m1.1.1.3.2.cmml">Y</mi><mn id="A1.E30Xc.4.1.1.m1.1.1.3.3" xref="A1.E30Xc.4.1.1.m1.1.1.3.3.cmml">1</mn></msub><mo id="A1.E30Xc.4.1.1.m1.1.1.2" xref="A1.E30Xc.4.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E30Xc.4.1.1.m1.1.1.1.1" xref="A1.E30Xc.4.1.1.m1.1.1.1.2.cmml"><mo id="A1.E30Xc.4.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E30Xc.4.1.1.m1.1.1.1.2.1.cmml">|</mo><mrow id="A1.E30Xc.4.1.1.m1.1.1.1.1.1" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.2" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.2.cmml">X</mi><mo id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.1" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.1.cmml">⁢</mo><mtext id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.3" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.3a.cmml"> and </mtext><mo id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.1a" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.1.cmml">⁢</mo><msub id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.cmml"><mi id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.2" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.2.cmml">Y</mi><mn id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.3" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.3.cmml">2</mn></msub></mrow><mo id="A1.E30Xc.4.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E30Xc.4.1.1.m1.1.1.1.2.1.cmml">|</mo></mrow><mo id="A1.E30Xc.4.1.1.m1.1.1.2a" xref="A1.E30Xc.4.1.1.m1.1.1.2.cmml">⁢</mo><mi id="A1.E30Xc.4.1.1.m1.1.1.4" xref="A1.E30Xc.4.1.1.m1.1.1.4.cmml">X</mi><mo id="A1.E30Xc.4.1.1.m1.1.1.2b" xref="A1.E30Xc.4.1.1.m1.1.1.2.cmml">⁢</mo><mtext id="A1.E30Xc.4.1.1.m1.1.1.5" xref="A1.E30Xc.4.1.1.m1.1.1.5a.cmml"> are iid</mtext></mrow><annotation-xml encoding="MathML-Content" id="A1.E30Xc.4.1.1.m1.1b"><apply id="A1.E30Xc.4.1.1.m1.1.1.cmml" xref="A1.E30Xc.4.1.1.m1.1.1"><times id="A1.E30Xc.4.1.1.m1.1.1.2.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.2"></times><apply id="A1.E30Xc.4.1.1.m1.1.1.3.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A1.E30Xc.4.1.1.m1.1.1.3.1.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.3">subscript</csymbol><ci id="A1.E30Xc.4.1.1.m1.1.1.3.2.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.3.2">𝑌</ci><cn id="A1.E30Xc.4.1.1.m1.1.1.3.3.cmml" type="integer" xref="A1.E30Xc.4.1.1.m1.1.1.3.3">1</cn></apply><apply id="A1.E30Xc.4.1.1.m1.1.1.1.2.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1"><abs id="A1.E30Xc.4.1.1.m1.1.1.1.2.1.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.2"></abs><apply id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1"><times id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.1"></times><ci id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.2">𝑋</ci><ci id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.3a.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.3"><mtext id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.3"> and </mtext></ci><apply id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.1.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4">subscript</csymbol><ci id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.2.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.2">𝑌</ci><cn id="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.3.cmml" type="integer" xref="A1.E30Xc.4.1.1.m1.1.1.1.1.1.4.3">2</cn></apply></apply></apply><ci id="A1.E30Xc.4.1.1.m1.1.1.4.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.4">𝑋</ci><ci id="A1.E30Xc.4.1.1.m1.1.1.5a.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.5"><mtext id="A1.E30Xc.4.1.1.m1.1.1.5.cmml" xref="A1.E30Xc.4.1.1.m1.1.1.5"> are iid</mtext></ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E30Xc.4.1.1.m1.1c">\displaystyle Y_{1}|X\text{ and }Y_{2}|X\text{ are iid}</annotation><annotation encoding="application/x-llamapun" id="A1.E30Xc.4.1.1.m1.1d">italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X and italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X are iid</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.4.p1.2">Plugging this result back:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E31"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E31X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]" class="ltx_Math" display="inline" id="A1.E31X.2.1.1.m1.2"><semantics id="A1.E31X.2.1.1.m1.2a"><mrow id="A1.E31X.2.1.1.m1.2.2" xref="A1.E31X.2.1.1.m1.2.2.cmml"><msub id="A1.E31X.2.1.1.m1.2.2.4" xref="A1.E31X.2.1.1.m1.2.2.4.cmml"><mi id="A1.E31X.2.1.1.m1.2.2.4.2" xref="A1.E31X.2.1.1.m1.2.2.4.2.cmml">ℂ</mi><mi id="A1.E31X.2.1.1.m1.2.2.4.3" xref="A1.E31X.2.1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="A1.E31X.2.1.1.m1.2.2.3" xref="A1.E31X.2.1.1.m1.2.2.3.cmml">⁢</mo><mrow id="A1.E31X.2.1.1.m1.2.2.2.2" xref="A1.E31X.2.1.1.m1.2.2.2.3.cmml"><mo id="A1.E31X.2.1.1.m1.2.2.2.2.3" stretchy="false" xref="A1.E31X.2.1.1.m1.2.2.2.3.cmml">[</mo><msub id="A1.E31X.2.1.1.m1.1.1.1.1.1" xref="A1.E31X.2.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.E31X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E31X.2.1.1.m1.1.1.1.1.1.2.cmml">Y</mi><mn id="A1.E31X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E31X.2.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E31X.2.1.1.m1.2.2.2.2.4" xref="A1.E31X.2.1.1.m1.2.2.2.3.cmml">,</mo><mrow id="A1.E31X.2.1.1.m1.2.2.2.2.2" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.cmml"><msub id="A1.E31X.2.1.1.m1.2.2.2.2.2.2" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.2.cmml"><mi id="A1.E31X.2.1.1.m1.2.2.2.2.2.2.2" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.2.2.cmml">Y</mi><mn id="A1.E31X.2.1.1.m1.2.2.2.2.2.2.3" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E31X.2.1.1.m1.2.2.2.2.2.1" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="A1.E31X.2.1.1.m1.2.2.2.2.2.3" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.E31X.2.1.1.m1.2.2.2.2.5" stretchy="false" xref="A1.E31X.2.1.1.m1.2.2.2.3.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E31X.2.1.1.m1.2b"><apply id="A1.E31X.2.1.1.m1.2.2.cmml" xref="A1.E31X.2.1.1.m1.2.2"><times id="A1.E31X.2.1.1.m1.2.2.3.cmml" xref="A1.E31X.2.1.1.m1.2.2.3"></times><apply id="A1.E31X.2.1.1.m1.2.2.4.cmml" xref="A1.E31X.2.1.1.m1.2.2.4"><csymbol cd="ambiguous" id="A1.E31X.2.1.1.m1.2.2.4.1.cmml" xref="A1.E31X.2.1.1.m1.2.2.4">subscript</csymbol><ci id="A1.E31X.2.1.1.m1.2.2.4.2.cmml" xref="A1.E31X.2.1.1.m1.2.2.4.2">ℂ</ci><ci id="A1.E31X.2.1.1.m1.2.2.4.3.cmml" xref="A1.E31X.2.1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="closed" id="A1.E31X.2.1.1.m1.2.2.2.3.cmml" xref="A1.E31X.2.1.1.m1.2.2.2.2"><apply id="A1.E31X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E31X.2.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E31X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E31X.2.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="A1.E31X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E31X.2.1.1.m1.1.1.1.1.1.2">𝑌</ci><cn id="A1.E31X.2.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E31X.2.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="A1.E31X.2.1.1.m1.2.2.2.2.2.cmml" xref="A1.E31X.2.1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="A1.E31X.2.1.1.m1.2.2.2.2.2.1.cmml" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="A1.E31X.2.1.1.m1.2.2.2.2.2.2.cmml" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E31X.2.1.1.m1.2.2.2.2.2.2.1.cmml" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="A1.E31X.2.1.1.m1.2.2.2.2.2.2.2.cmml" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.2.2">𝑌</ci><cn id="A1.E31X.2.1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="A1.E31X.2.1.1.m1.2.2.2.2.2.3.cmml" xref="A1.E31X.2.1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E31X.2.1.1.m1.2c">\displaystyle\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]</annotation><annotation encoding="application/x-llamapun" id="A1.E31X.2.1.1.m1.2d">blackboard_C start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]-\mathbb{E}_{\theta}[Y_{1% }]\mathbb{E}_{\theta}[Y_{2}|x]" class="ltx_Math" display="inline" id="A1.E31X.3.2.2.m1.4"><semantics id="A1.E31X.3.2.2.m1.4a"><mrow id="A1.E31X.3.2.2.m1.4.4" xref="A1.E31X.3.2.2.m1.4.4.cmml"><mi id="A1.E31X.3.2.2.m1.4.4.5" xref="A1.E31X.3.2.2.m1.4.4.5.cmml"></mi><mo id="A1.E31X.3.2.2.m1.4.4.4" xref="A1.E31X.3.2.2.m1.4.4.4.cmml">=</mo><mrow id="A1.E31X.3.2.2.m1.4.4.3" xref="A1.E31X.3.2.2.m1.4.4.3.cmml"><mrow id="A1.E31X.3.2.2.m1.2.2.1.1" xref="A1.E31X.3.2.2.m1.2.2.1.1.cmml"><mi id="A1.E31X.3.2.2.m1.2.2.1.1.3" xref="A1.E31X.3.2.2.m1.2.2.1.1.3.cmml">𝔼</mi><mo id="A1.E31X.3.2.2.m1.2.2.1.1.2" xref="A1.E31X.3.2.2.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E31X.3.2.2.m1.2.2.1.1.1.1" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.2.cmml"><mo id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.2" stretchy="false" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.2.1.cmml">[</mo><mrow id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.cmml"><mrow id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.cmml"><msup id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.cmml"><mi id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.2" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.3" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.2" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.2" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.2" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.1.cmml"><mo id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E31X.3.2.2.m1.1.1" xref="A1.E31X.3.2.2.m1.1.1.cmml">x</mi><mo id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.3" stretchy="false" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E31X.3.2.2.m1.4.4.3.4" xref="A1.E31X.3.2.2.m1.4.4.3.4.cmml">−</mo><mrow id="A1.E31X.3.2.2.m1.4.4.3.3" xref="A1.E31X.3.2.2.m1.4.4.3.3.cmml"><msub id="A1.E31X.3.2.2.m1.4.4.3.3.4" xref="A1.E31X.3.2.2.m1.4.4.3.3.4.cmml"><mi id="A1.E31X.3.2.2.m1.4.4.3.3.4.2" xref="A1.E31X.3.2.2.m1.4.4.3.3.4.2.cmml">𝔼</mi><mi id="A1.E31X.3.2.2.m1.4.4.3.3.4.3" xref="A1.E31X.3.2.2.m1.4.4.3.3.4.3.cmml">θ</mi></msub><mo id="A1.E31X.3.2.2.m1.4.4.3.3.3" xref="A1.E31X.3.2.2.m1.4.4.3.3.3.cmml">⁢</mo><mrow id="A1.E31X.3.2.2.m1.3.3.2.2.1.1" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.2.cmml"><mo id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.2" stretchy="false" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.2.1.cmml">[</mo><msub id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.cmml"><mi id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.2" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.2.cmml">Y</mi><mn id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.3" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.3.cmml">1</mn></msub><mo id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.3" stretchy="false" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.2.1.cmml">]</mo></mrow><mo id="A1.E31X.3.2.2.m1.4.4.3.3.3a" xref="A1.E31X.3.2.2.m1.4.4.3.3.3.cmml">⁢</mo><msub id="A1.E31X.3.2.2.m1.4.4.3.3.5" xref="A1.E31X.3.2.2.m1.4.4.3.3.5.cmml"><mi id="A1.E31X.3.2.2.m1.4.4.3.3.5.2" xref="A1.E31X.3.2.2.m1.4.4.3.3.5.2.cmml">𝔼</mi><mi id="A1.E31X.3.2.2.m1.4.4.3.3.5.3" xref="A1.E31X.3.2.2.m1.4.4.3.3.5.3.cmml">θ</mi></msub><mo id="A1.E31X.3.2.2.m1.4.4.3.3.3b" xref="A1.E31X.3.2.2.m1.4.4.3.3.3.cmml">⁢</mo><mrow id="A1.E31X.3.2.2.m1.4.4.3.3.2.1" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.2.cmml"><mo id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.2" stretchy="false" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.2.1.cmml">[</mo><mrow id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.cmml"><msub id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.cmml"><mi id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.2" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.2.cmml">Y</mi><mn id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.3" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.1" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.1.cmml">|</mo><mi id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.3" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.3.cmml">x</mi></mrow><mo id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.3" stretchy="false" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E31X.3.2.2.m1.4b"><apply id="A1.E31X.3.2.2.m1.4.4.cmml" xref="A1.E31X.3.2.2.m1.4.4"><eq id="A1.E31X.3.2.2.m1.4.4.4.cmml" xref="A1.E31X.3.2.2.m1.4.4.4"></eq><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.4.4.5.cmml" xref="A1.E31X.3.2.2.m1.4.4.5">absent</csymbol><apply id="A1.E31X.3.2.2.m1.4.4.3.cmml" xref="A1.E31X.3.2.2.m1.4.4.3"><minus id="A1.E31X.3.2.2.m1.4.4.3.4.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.4"></minus><apply id="A1.E31X.3.2.2.m1.2.2.1.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1"><times id="A1.E31X.3.2.2.m1.2.2.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.2"></times><ci id="A1.E31X.3.2.2.m1.2.2.1.1.3.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.3">𝔼</ci><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.2.2.1.1.1.2.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1"><times id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.2"></times><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.2">𝔼</ci><cn id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.3.3">2</cn></apply><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.1.1.cmml" xref="A1.E31X.3.2.2.m1.2.2.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E31X.3.2.2.m1.1.1.cmml" xref="A1.E31X.3.2.2.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E31X.3.2.2.m1.4.4.3.3.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3"><times id="A1.E31X.3.2.2.m1.4.4.3.3.3.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.3"></times><apply id="A1.E31X.3.2.2.m1.4.4.3.3.4.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.4"><csymbol cd="ambiguous" id="A1.E31X.3.2.2.m1.4.4.3.3.4.1.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.4">subscript</csymbol><ci id="A1.E31X.3.2.2.m1.4.4.3.3.4.2.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.4.2">𝔼</ci><ci id="A1.E31X.3.2.2.m1.4.4.3.3.4.3.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.4.3">𝜃</ci></apply><apply id="A1.E31X.3.2.2.m1.3.3.2.2.1.2.cmml" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.3.3.2.2.1.2.1.cmml" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.cmml" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1"><csymbol cd="ambiguous" id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.1.cmml" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1">subscript</csymbol><ci id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.2">𝑌</ci><cn id="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.3.cmml" type="integer" xref="A1.E31X.3.2.2.m1.3.3.2.2.1.1.1.3">1</cn></apply></apply><apply id="A1.E31X.3.2.2.m1.4.4.3.3.5.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.5"><csymbol cd="ambiguous" id="A1.E31X.3.2.2.m1.4.4.3.3.5.1.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.5">subscript</csymbol><ci id="A1.E31X.3.2.2.m1.4.4.3.3.5.2.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.5.2">𝔼</ci><ci id="A1.E31X.3.2.2.m1.4.4.3.3.5.3.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.5.3">𝜃</ci></apply><apply id="A1.E31X.3.2.2.m1.4.4.3.3.2.2.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.4.4.3.3.2.2.1.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.2">delimited-[]</csymbol><apply id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1"><csymbol cd="latexml" id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.1.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.1">conditional</csymbol><apply id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2"><csymbol cd="ambiguous" id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.1.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2">subscript</csymbol><ci id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.2.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.2">𝑌</ci><cn id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.3.cmml" type="integer" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.2.3">2</cn></apply><ci id="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.3.cmml" xref="A1.E31X.3.2.2.m1.4.4.3.3.2.1.1.3">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E31X.3.2.2.m1.4c">\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]-\mathbb{E}_{\theta}[Y_{1% }]\mathbb{E}_{\theta}[Y_{2}|x]</annotation><annotation encoding="application/x-llamapun" id="A1.E31X.3.2.2.m1.4d">= blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] - blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ] blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="3"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(31)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E31Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]-\mathbb{E}^{2}[\mathbb{E% }[Y_{1}|X]|[x]]" class="ltx_Math" display="inline" id="A1.E31Xa.2.1.1.m1.4"><semantics id="A1.E31Xa.2.1.1.m1.4a"><mrow id="A1.E31Xa.2.1.1.m1.4.4" xref="A1.E31Xa.2.1.1.m1.4.4.cmml"><mi id="A1.E31Xa.2.1.1.m1.4.4.4" xref="A1.E31Xa.2.1.1.m1.4.4.4.cmml"></mi><mo id="A1.E31Xa.2.1.1.m1.4.4.3" xref="A1.E31Xa.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A1.E31Xa.2.1.1.m1.4.4.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.cmml"><mrow id="A1.E31Xa.2.1.1.m1.3.3.1.1" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.cmml"><mi id="A1.E31Xa.2.1.1.m1.3.3.1.1.3" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.2" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><msup id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml"><mi id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.2" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.3" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml"><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E31Xa.2.1.1.m1.1.1" xref="A1.E31Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E31Xa.2.1.1.m1.4.4.2.3" xref="A1.E31Xa.2.1.1.m1.4.4.2.3.cmml">−</mo><mrow id="A1.E31Xa.2.1.1.m1.4.4.2.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.cmml"><msup id="A1.E31Xa.2.1.1.m1.4.4.2.2.3" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.3.cmml"><mi id="A1.E31Xa.2.1.1.m1.4.4.2.2.3.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.3.2.cmml">𝔼</mi><mn id="A1.E31Xa.2.1.1.m1.4.4.2.2.3.3" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.3.3.cmml">2</mn></msup><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.2.cmml">⁢</mo><mrow id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.2.cmml"><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.2" stretchy="false" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml">[</mo><mrow id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.cmml"><mrow id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.cmml"><mi id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml"><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><msub id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.2.cmml">|</mo><mrow id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml"><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.1" stretchy="false" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E31Xa.2.1.1.m1.2.2" xref="A1.E31Xa.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.2" stretchy="false" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.3" stretchy="false" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E31Xa.2.1.1.m1.4b"><apply id="A1.E31Xa.2.1.1.m1.4.4.cmml" xref="A1.E31Xa.2.1.1.m1.4.4"><eq id="A1.E31Xa.2.1.1.m1.4.4.3.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.4.4.4.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.4">absent</csymbol><apply id="A1.E31Xa.2.1.1.m1.4.4.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2"><minus id="A1.E31Xa.2.1.1.m1.4.4.2.3.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.3"></minus><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1"><times id="A1.E31Xa.2.1.1.m1.3.3.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.2"></times><ci id="A1.E31Xa.2.1.1.m1.3.3.1.1.3.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.2">𝔼</ci><cn id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.3.3">2</cn></apply><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.3.3.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E31Xa.2.1.1.m1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2"><times id="A1.E31Xa.2.1.1.m1.4.4.2.2.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.2"></times><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.3.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.3"><csymbol cd="ambiguous" id="A1.E31Xa.2.1.1.m1.4.4.2.2.3.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.3">superscript</csymbol><ci id="A1.E31Xa.2.1.1.m1.4.4.2.2.3.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.3.2">𝔼</ci><cn id="A1.E31Xa.2.1.1.m1.4.4.2.2.3.3.cmml" type="integer" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.3.3">2</cn></apply><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.2.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.2">conditional</csymbol><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1"><times id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.2"></times><ci id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.3">𝔼</ci><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2"><csymbol cd="latexml" id="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml" xref="A1.E31Xa.2.1.1.m1.4.4.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E31Xa.2.1.1.m1.2.2.cmml" xref="A1.E31Xa.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E31Xa.2.1.1.m1.4c">\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]-\mathbb{E}^{2}[\mathbb{E% }[Y_{1}|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E31Xa.2.1.1.m1.4d">= blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] - blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E31Xa.4.1.1.1">by Thm. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem4" title="Theorem 2.4. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.4</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E31Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{V}[\mathbb{E}[Y_{1}|X]|[x]]" class="ltx_Math" display="inline" id="A1.E31Xb.2.1.1.m1.2"><semantics id="A1.E31Xb.2.1.1.m1.2a"><mrow id="A1.E31Xb.2.1.1.m1.2.2" xref="A1.E31Xb.2.1.1.m1.2.2.cmml"><mi id="A1.E31Xb.2.1.1.m1.2.2.3" xref="A1.E31Xb.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E31Xb.2.1.1.m1.2.2.2" xref="A1.E31Xb.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E31Xb.2.1.1.m1.2.2.1" xref="A1.E31Xb.2.1.1.m1.2.2.1.cmml"><mi id="A1.E31Xb.2.1.1.m1.2.2.1.3" xref="A1.E31Xb.2.1.1.m1.2.2.1.3.cmml">𝕍</mi><mo id="A1.E31Xb.2.1.1.m1.2.2.1.2" xref="A1.E31Xb.2.1.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="A1.E31Xb.2.1.1.m1.2.2.1.1.1" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.2.cmml"><mo id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.2" stretchy="false" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.cmml"><mrow id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mi id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml"><mo id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.2.cmml">|</mo><mrow id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.2" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.1.cmml"><mo id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.2.1" stretchy="false" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E31Xb.2.1.1.m1.1.1" xref="A1.E31Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.2.2" stretchy="false" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.3" stretchy="false" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E31Xb.2.1.1.m1.2b"><apply id="A1.E31Xb.2.1.1.m1.2.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2"><eq id="A1.E31Xb.2.1.1.m1.2.2.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E31Xb.2.1.1.m1.2.2.3.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E31Xb.2.1.1.m1.2.2.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1"><times id="A1.E31Xb.2.1.1.m1.2.2.1.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.2"></times><ci id="A1.E31Xb.2.1.1.m1.2.2.1.3.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.3">𝕍</ci><apply id="A1.E31Xb.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="A1.E31Xb.2.1.1.m1.2.2.1.1.2.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.2">conditional</csymbol><apply id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1"><times id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.2"></times><ci id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.3">𝔼</ci><apply id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml" xref="A1.E31Xb.2.1.1.m1.2.2.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E31Xb.2.1.1.m1.1.1.cmml" xref="A1.E31Xb.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E31Xb.2.1.1.m1.2c">\displaystyle=\mathbb{V}[\mathbb{E}[Y_{1}|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E31Xb.2.1.1.m1.2d">= blackboard_V [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E31Xb.4.1.1.1">definition of </span><math alttext="\mathbb{\mathbb{V}}" class="ltx_markedasmath" display="inline" id="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">𝕍</mi><annotation-xml encoding="MathML-Content" id="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1.1">𝕍</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{\mathbb{V}}</annotation><annotation encoding="application/x-llamapun" id="A1.E31.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_V</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.4.p1.3">∎</p> </div> </div> <div class="ltx_proof" id="A1.5"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of corollary <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem6" title="Theorem 2.6. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.6</span></a>.</h6> <div class="ltx_para" id="A1.5.p1"> <p class="ltx_p" id="A1.5.p1.4">Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.E17" title="Equation 17 ‣ Corollary 3.4. ‣ 3.4 Connection to (Durasov et al., 2024) ‣ 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">17</span></a>) follows immediately from Thm.<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a> by noting that, being <math alttext="p(Y|X)=\delta(Y-f(X))" class="ltx_Math" display="inline" id="A1.5.p1.1.m1.3"><semantics id="A1.5.p1.1.m1.3a"><mrow id="A1.5.p1.1.m1.3.3" xref="A1.5.p1.1.m1.3.3.cmml"><mrow id="A1.5.p1.1.m1.2.2.1" xref="A1.5.p1.1.m1.2.2.1.cmml"><mi id="A1.5.p1.1.m1.2.2.1.3" xref="A1.5.p1.1.m1.2.2.1.3.cmml">p</mi><mo id="A1.5.p1.1.m1.2.2.1.2" xref="A1.5.p1.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="A1.5.p1.1.m1.2.2.1.1.1" xref="A1.5.p1.1.m1.2.2.1.1.1.1.cmml"><mo id="A1.5.p1.1.m1.2.2.1.1.1.2" stretchy="false" xref="A1.5.p1.1.m1.2.2.1.1.1.1.cmml">(</mo><mrow id="A1.5.p1.1.m1.2.2.1.1.1.1" xref="A1.5.p1.1.m1.2.2.1.1.1.1.cmml"><mi id="A1.5.p1.1.m1.2.2.1.1.1.1.2" xref="A1.5.p1.1.m1.2.2.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.5.p1.1.m1.2.2.1.1.1.1.1" xref="A1.5.p1.1.m1.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.5.p1.1.m1.2.2.1.1.1.1.3" xref="A1.5.p1.1.m1.2.2.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.5.p1.1.m1.2.2.1.1.1.3" stretchy="false" xref="A1.5.p1.1.m1.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A1.5.p1.1.m1.3.3.3" xref="A1.5.p1.1.m1.3.3.3.cmml">=</mo><mrow id="A1.5.p1.1.m1.3.3.2" xref="A1.5.p1.1.m1.3.3.2.cmml"><mi id="A1.5.p1.1.m1.3.3.2.3" xref="A1.5.p1.1.m1.3.3.2.3.cmml">δ</mi><mo id="A1.5.p1.1.m1.3.3.2.2" xref="A1.5.p1.1.m1.3.3.2.2.cmml">⁢</mo><mrow id="A1.5.p1.1.m1.3.3.2.1.1" xref="A1.5.p1.1.m1.3.3.2.1.1.1.cmml"><mo id="A1.5.p1.1.m1.3.3.2.1.1.2" stretchy="false" xref="A1.5.p1.1.m1.3.3.2.1.1.1.cmml">(</mo><mrow id="A1.5.p1.1.m1.3.3.2.1.1.1" xref="A1.5.p1.1.m1.3.3.2.1.1.1.cmml"><mi id="A1.5.p1.1.m1.3.3.2.1.1.1.2" xref="A1.5.p1.1.m1.3.3.2.1.1.1.2.cmml">Y</mi><mo id="A1.5.p1.1.m1.3.3.2.1.1.1.1" xref="A1.5.p1.1.m1.3.3.2.1.1.1.1.cmml">−</mo><mrow id="A1.5.p1.1.m1.3.3.2.1.1.1.3" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.cmml"><mi id="A1.5.p1.1.m1.3.3.2.1.1.1.3.2" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.2.cmml">f</mi><mo id="A1.5.p1.1.m1.3.3.2.1.1.1.3.1" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.5.p1.1.m1.3.3.2.1.1.1.3.3.2" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.cmml"><mo id="A1.5.p1.1.m1.3.3.2.1.1.1.3.3.2.1" stretchy="false" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.cmml">(</mo><mi id="A1.5.p1.1.m1.1.1" xref="A1.5.p1.1.m1.1.1.cmml">X</mi><mo id="A1.5.p1.1.m1.3.3.2.1.1.1.3.3.2.2" stretchy="false" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A1.5.p1.1.m1.3.3.2.1.1.3" stretchy="false" xref="A1.5.p1.1.m1.3.3.2.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.5.p1.1.m1.3b"><apply id="A1.5.p1.1.m1.3.3.cmml" xref="A1.5.p1.1.m1.3.3"><eq id="A1.5.p1.1.m1.3.3.3.cmml" xref="A1.5.p1.1.m1.3.3.3"></eq><apply id="A1.5.p1.1.m1.2.2.1.cmml" xref="A1.5.p1.1.m1.2.2.1"><times id="A1.5.p1.1.m1.2.2.1.2.cmml" xref="A1.5.p1.1.m1.2.2.1.2"></times><ci id="A1.5.p1.1.m1.2.2.1.3.cmml" xref="A1.5.p1.1.m1.2.2.1.3">𝑝</ci><apply id="A1.5.p1.1.m1.2.2.1.1.1.1.cmml" xref="A1.5.p1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="A1.5.p1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.5.p1.1.m1.2.2.1.1.1.1.1">conditional</csymbol><ci id="A1.5.p1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.5.p1.1.m1.2.2.1.1.1.1.2">𝑌</ci><ci id="A1.5.p1.1.m1.2.2.1.1.1.1.3.cmml" xref="A1.5.p1.1.m1.2.2.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.5.p1.1.m1.3.3.2.cmml" xref="A1.5.p1.1.m1.3.3.2"><times id="A1.5.p1.1.m1.3.3.2.2.cmml" xref="A1.5.p1.1.m1.3.3.2.2"></times><ci id="A1.5.p1.1.m1.3.3.2.3.cmml" xref="A1.5.p1.1.m1.3.3.2.3">𝛿</ci><apply id="A1.5.p1.1.m1.3.3.2.1.1.1.cmml" xref="A1.5.p1.1.m1.3.3.2.1.1"><minus id="A1.5.p1.1.m1.3.3.2.1.1.1.1.cmml" xref="A1.5.p1.1.m1.3.3.2.1.1.1.1"></minus><ci id="A1.5.p1.1.m1.3.3.2.1.1.1.2.cmml" xref="A1.5.p1.1.m1.3.3.2.1.1.1.2">𝑌</ci><apply id="A1.5.p1.1.m1.3.3.2.1.1.1.3.cmml" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3"><times id="A1.5.p1.1.m1.3.3.2.1.1.1.3.1.cmml" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.1"></times><ci id="A1.5.p1.1.m1.3.3.2.1.1.1.3.2.cmml" xref="A1.5.p1.1.m1.3.3.2.1.1.1.3.2">𝑓</ci><ci id="A1.5.p1.1.m1.1.1.cmml" xref="A1.5.p1.1.m1.1.1">𝑋</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.5.p1.1.m1.3c">p(Y|X)=\delta(Y-f(X))</annotation><annotation encoding="application/x-llamapun" id="A1.5.p1.1.m1.3d">italic_p ( italic_Y | italic_X ) = italic_δ ( italic_Y - italic_f ( italic_X ) )</annotation></semantics></math>, its average is <math alttext="\mathbb{E}[Y|X]=f(X)" class="ltx_Math" display="inline" id="A1.5.p1.2.m2.2"><semantics id="A1.5.p1.2.m2.2a"><mrow id="A1.5.p1.2.m2.2.2" xref="A1.5.p1.2.m2.2.2.cmml"><mrow id="A1.5.p1.2.m2.2.2.1" xref="A1.5.p1.2.m2.2.2.1.cmml"><mi id="A1.5.p1.2.m2.2.2.1.3" xref="A1.5.p1.2.m2.2.2.1.3.cmml">𝔼</mi><mo id="A1.5.p1.2.m2.2.2.1.2" xref="A1.5.p1.2.m2.2.2.1.2.cmml">⁢</mo><mrow id="A1.5.p1.2.m2.2.2.1.1.1" xref="A1.5.p1.2.m2.2.2.1.1.2.cmml"><mo id="A1.5.p1.2.m2.2.2.1.1.1.2" stretchy="false" xref="A1.5.p1.2.m2.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.5.p1.2.m2.2.2.1.1.1.1" xref="A1.5.p1.2.m2.2.2.1.1.1.1.cmml"><mi id="A1.5.p1.2.m2.2.2.1.1.1.1.2" xref="A1.5.p1.2.m2.2.2.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.5.p1.2.m2.2.2.1.1.1.1.1" xref="A1.5.p1.2.m2.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.5.p1.2.m2.2.2.1.1.1.1.3" xref="A1.5.p1.2.m2.2.2.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.5.p1.2.m2.2.2.1.1.1.3" stretchy="false" xref="A1.5.p1.2.m2.2.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.5.p1.2.m2.2.2.2" xref="A1.5.p1.2.m2.2.2.2.cmml">=</mo><mrow id="A1.5.p1.2.m2.2.2.3" xref="A1.5.p1.2.m2.2.2.3.cmml"><mi id="A1.5.p1.2.m2.2.2.3.2" xref="A1.5.p1.2.m2.2.2.3.2.cmml">f</mi><mo id="A1.5.p1.2.m2.2.2.3.1" xref="A1.5.p1.2.m2.2.2.3.1.cmml">⁢</mo><mrow id="A1.5.p1.2.m2.2.2.3.3.2" xref="A1.5.p1.2.m2.2.2.3.cmml"><mo id="A1.5.p1.2.m2.2.2.3.3.2.1" stretchy="false" xref="A1.5.p1.2.m2.2.2.3.cmml">(</mo><mi id="A1.5.p1.2.m2.1.1" xref="A1.5.p1.2.m2.1.1.cmml">X</mi><mo id="A1.5.p1.2.m2.2.2.3.3.2.2" stretchy="false" xref="A1.5.p1.2.m2.2.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.5.p1.2.m2.2b"><apply id="A1.5.p1.2.m2.2.2.cmml" xref="A1.5.p1.2.m2.2.2"><eq id="A1.5.p1.2.m2.2.2.2.cmml" xref="A1.5.p1.2.m2.2.2.2"></eq><apply id="A1.5.p1.2.m2.2.2.1.cmml" xref="A1.5.p1.2.m2.2.2.1"><times id="A1.5.p1.2.m2.2.2.1.2.cmml" xref="A1.5.p1.2.m2.2.2.1.2"></times><ci id="A1.5.p1.2.m2.2.2.1.3.cmml" xref="A1.5.p1.2.m2.2.2.1.3">𝔼</ci><apply id="A1.5.p1.2.m2.2.2.1.1.2.cmml" xref="A1.5.p1.2.m2.2.2.1.1.1"><csymbol cd="latexml" id="A1.5.p1.2.m2.2.2.1.1.2.1.cmml" xref="A1.5.p1.2.m2.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.5.p1.2.m2.2.2.1.1.1.1.cmml" xref="A1.5.p1.2.m2.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.5.p1.2.m2.2.2.1.1.1.1.1.cmml" xref="A1.5.p1.2.m2.2.2.1.1.1.1.1">conditional</csymbol><ci id="A1.5.p1.2.m2.2.2.1.1.1.1.2.cmml" xref="A1.5.p1.2.m2.2.2.1.1.1.1.2">𝑌</ci><ci id="A1.5.p1.2.m2.2.2.1.1.1.1.3.cmml" xref="A1.5.p1.2.m2.2.2.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.5.p1.2.m2.2.2.3.cmml" xref="A1.5.p1.2.m2.2.2.3"><times id="A1.5.p1.2.m2.2.2.3.1.cmml" xref="A1.5.p1.2.m2.2.2.3.1"></times><ci id="A1.5.p1.2.m2.2.2.3.2.cmml" xref="A1.5.p1.2.m2.2.2.3.2">𝑓</ci><ci id="A1.5.p1.2.m2.1.1.cmml" xref="A1.5.p1.2.m2.1.1">𝑋</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.5.p1.2.m2.2c">\mathbb{E}[Y|X]=f(X)</annotation><annotation encoding="application/x-llamapun" id="A1.5.p1.2.m2.2d">blackboard_E [ italic_Y | italic_X ] = italic_f ( italic_X )</annotation></semantics></math> and the variance is exactly zero, <math alttext="\mathbb{V}[Y|X]=0" class="ltx_Math" display="inline" id="A1.5.p1.3.m3.1"><semantics id="A1.5.p1.3.m3.1a"><mrow id="A1.5.p1.3.m3.1.1" xref="A1.5.p1.3.m3.1.1.cmml"><mrow id="A1.5.p1.3.m3.1.1.1" xref="A1.5.p1.3.m3.1.1.1.cmml"><mi id="A1.5.p1.3.m3.1.1.1.3" xref="A1.5.p1.3.m3.1.1.1.3.cmml">𝕍</mi><mo id="A1.5.p1.3.m3.1.1.1.2" xref="A1.5.p1.3.m3.1.1.1.2.cmml">⁢</mo><mrow id="A1.5.p1.3.m3.1.1.1.1.1" xref="A1.5.p1.3.m3.1.1.1.1.2.cmml"><mo id="A1.5.p1.3.m3.1.1.1.1.1.2" stretchy="false" xref="A1.5.p1.3.m3.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.5.p1.3.m3.1.1.1.1.1.1" xref="A1.5.p1.3.m3.1.1.1.1.1.1.cmml"><mi id="A1.5.p1.3.m3.1.1.1.1.1.1.2" xref="A1.5.p1.3.m3.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.5.p1.3.m3.1.1.1.1.1.1.1" xref="A1.5.p1.3.m3.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.5.p1.3.m3.1.1.1.1.1.1.3" xref="A1.5.p1.3.m3.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.5.p1.3.m3.1.1.1.1.1.3" stretchy="false" xref="A1.5.p1.3.m3.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.5.p1.3.m3.1.1.2" xref="A1.5.p1.3.m3.1.1.2.cmml">=</mo><mn id="A1.5.p1.3.m3.1.1.3" xref="A1.5.p1.3.m3.1.1.3.cmml">0</mn></mrow><annotation-xml encoding="MathML-Content" id="A1.5.p1.3.m3.1b"><apply id="A1.5.p1.3.m3.1.1.cmml" xref="A1.5.p1.3.m3.1.1"><eq id="A1.5.p1.3.m3.1.1.2.cmml" xref="A1.5.p1.3.m3.1.1.2"></eq><apply id="A1.5.p1.3.m3.1.1.1.cmml" xref="A1.5.p1.3.m3.1.1.1"><times id="A1.5.p1.3.m3.1.1.1.2.cmml" xref="A1.5.p1.3.m3.1.1.1.2"></times><ci id="A1.5.p1.3.m3.1.1.1.3.cmml" xref="A1.5.p1.3.m3.1.1.1.3">𝕍</ci><apply id="A1.5.p1.3.m3.1.1.1.1.2.cmml" xref="A1.5.p1.3.m3.1.1.1.1.1"><csymbol cd="latexml" id="A1.5.p1.3.m3.1.1.1.1.2.1.cmml" xref="A1.5.p1.3.m3.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.5.p1.3.m3.1.1.1.1.1.1.cmml" xref="A1.5.p1.3.m3.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.5.p1.3.m3.1.1.1.1.1.1.1.cmml" xref="A1.5.p1.3.m3.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.5.p1.3.m3.1.1.1.1.1.1.2.cmml" xref="A1.5.p1.3.m3.1.1.1.1.1.1.2">𝑌</ci><ci id="A1.5.p1.3.m3.1.1.1.1.1.1.3.cmml" xref="A1.5.p1.3.m3.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><cn id="A1.5.p1.3.m3.1.1.3.cmml" type="integer" xref="A1.5.p1.3.m3.1.1.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.5.p1.3.m3.1c">\mathbb{V}[Y|X]=0</annotation><annotation encoding="application/x-llamapun" id="A1.5.p1.3.m3.1d">blackboard_V [ italic_Y | italic_X ] = 0</annotation></semantics></math>. Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.E18" title="Equation 18 ‣ Corollary 3.4. ‣ 3.4 Connection to (Durasov et al., 2024) ‣ 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">18</span></a>) can be derived from Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.E9" title="Equation 9 ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">9</span></a>) noting that one can only sample one value from a Dirac distribution, namely <math alttext="f_{\theta}(x)" class="ltx_Math" display="inline" id="A1.5.p1.4.m4.1"><semantics id="A1.5.p1.4.m4.1a"><mrow id="A1.5.p1.4.m4.1.2" xref="A1.5.p1.4.m4.1.2.cmml"><msub id="A1.5.p1.4.m4.1.2.2" xref="A1.5.p1.4.m4.1.2.2.cmml"><mi id="A1.5.p1.4.m4.1.2.2.2" xref="A1.5.p1.4.m4.1.2.2.2.cmml">f</mi><mi id="A1.5.p1.4.m4.1.2.2.3" xref="A1.5.p1.4.m4.1.2.2.3.cmml">θ</mi></msub><mo id="A1.5.p1.4.m4.1.2.1" xref="A1.5.p1.4.m4.1.2.1.cmml">⁢</mo><mrow id="A1.5.p1.4.m4.1.2.3.2" xref="A1.5.p1.4.m4.1.2.cmml"><mo id="A1.5.p1.4.m4.1.2.3.2.1" stretchy="false" xref="A1.5.p1.4.m4.1.2.cmml">(</mo><mi id="A1.5.p1.4.m4.1.1" xref="A1.5.p1.4.m4.1.1.cmml">x</mi><mo id="A1.5.p1.4.m4.1.2.3.2.2" stretchy="false" xref="A1.5.p1.4.m4.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.5.p1.4.m4.1b"><apply id="A1.5.p1.4.m4.1.2.cmml" xref="A1.5.p1.4.m4.1.2"><times id="A1.5.p1.4.m4.1.2.1.cmml" xref="A1.5.p1.4.m4.1.2.1"></times><apply id="A1.5.p1.4.m4.1.2.2.cmml" xref="A1.5.p1.4.m4.1.2.2"><csymbol cd="ambiguous" id="A1.5.p1.4.m4.1.2.2.1.cmml" xref="A1.5.p1.4.m4.1.2.2">subscript</csymbol><ci id="A1.5.p1.4.m4.1.2.2.2.cmml" xref="A1.5.p1.4.m4.1.2.2.2">𝑓</ci><ci id="A1.5.p1.4.m4.1.2.2.3.cmml" xref="A1.5.p1.4.m4.1.2.2.3">𝜃</ci></apply><ci id="A1.5.p1.4.m4.1.1.cmml" xref="A1.5.p1.4.m4.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.5.p1.4.m4.1c">f_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.5.p1.4.m4.1d">italic_f start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math>. ∎</p> </div> </div> <div class="ltx_proof" id="A1.7"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of Theorem <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem6" title="Theorem 2.6. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.6</span></a>.</h6> <div class="ltx_para" id="A1.6.p1"> <p class="ltx_p" id="A1.6.p1.1">The proof follows from the one one used for Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a> by noticing that:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E32"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E32X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathbb{E}_{\theta}[Y_{1}Y_{2}]" class="ltx_Math" display="inline" id="A1.E32X.2.1.1.m1.1"><semantics id="A1.E32X.2.1.1.m1.1a"><mrow id="A1.E32X.2.1.1.m1.1.1" xref="A1.E32X.2.1.1.m1.1.1.cmml"><msub id="A1.E32X.2.1.1.m1.1.1.3" xref="A1.E32X.2.1.1.m1.1.1.3.cmml"><mi id="A1.E32X.2.1.1.m1.1.1.3.2" xref="A1.E32X.2.1.1.m1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E32X.2.1.1.m1.1.1.3.3" xref="A1.E32X.2.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E32X.2.1.1.m1.1.1.2" xref="A1.E32X.2.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A1.E32X.2.1.1.m1.1.1.1.1" xref="A1.E32X.2.1.1.m1.1.1.1.2.cmml"><mo id="A1.E32X.2.1.1.m1.1.1.1.1.2" stretchy="false" xref="A1.E32X.2.1.1.m1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E32X.2.1.1.m1.1.1.1.1.1" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.cmml"><msub id="A1.E32X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.2.cmml"><mi id="A1.E32X.2.1.1.m1.1.1.1.1.1.2.2" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E32X.2.1.1.m1.1.1.1.1.1.2.3" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo id="A1.E32X.2.1.1.m1.1.1.1.1.1.1" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.1.cmml">⁢</mo><msub id="A1.E32X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.3.cmml"><mi id="A1.E32X.2.1.1.m1.1.1.1.1.1.3.2" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.3.2.cmml">Y</mi><mn id="A1.E32X.2.1.1.m1.1.1.1.1.1.3.3" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.3.3.cmml">2</mn></msub></mrow><mo id="A1.E32X.2.1.1.m1.1.1.1.1.3" stretchy="false" xref="A1.E32X.2.1.1.m1.1.1.1.2.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E32X.2.1.1.m1.1b"><apply id="A1.E32X.2.1.1.m1.1.1.cmml" xref="A1.E32X.2.1.1.m1.1.1"><times id="A1.E32X.2.1.1.m1.1.1.2.cmml" xref="A1.E32X.2.1.1.m1.1.1.2"></times><apply id="A1.E32X.2.1.1.m1.1.1.3.cmml" xref="A1.E32X.2.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A1.E32X.2.1.1.m1.1.1.3.1.cmml" xref="A1.E32X.2.1.1.m1.1.1.3">subscript</csymbol><ci id="A1.E32X.2.1.1.m1.1.1.3.2.cmml" xref="A1.E32X.2.1.1.m1.1.1.3.2">𝔼</ci><ci id="A1.E32X.2.1.1.m1.1.1.3.3.cmml" xref="A1.E32X.2.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A1.E32X.2.1.1.m1.1.1.1.2.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A1.E32X.2.1.1.m1.1.1.1.2.1.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E32X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1"><times id="A1.E32X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.1"></times><apply id="A1.E32X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E32X.2.1.1.m1.1.1.1.1.1.2.1.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E32X.2.1.1.m1.1.1.1.1.1.2.2.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E32X.2.1.1.m1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E32X.2.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E32X.2.1.1.m1.1.1.1.1.1.3.1.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.E32X.2.1.1.m1.1.1.1.1.1.3.2.cmml" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.3.2">𝑌</ci><cn id="A1.E32X.2.1.1.m1.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.E32X.2.1.1.m1.1.1.1.1.1.3.3">2</cn></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32X.2.1.1.m1.1c">\displaystyle\mathbb{E}_{\theta}[Y_{1}Y_{2}]</annotation><annotation encoding="application/x-llamapun" id="A1.E32X.2.1.1.m1.1d">blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}p_{\theta}(y_{1},y_% {2}|x)\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_Math" display="inline" id="A1.E32X.3.2.2.m1.2"><semantics id="A1.E32X.3.2.2.m1.2a"><mrow id="A1.E32X.3.2.2.m1.2.2" xref="A1.E32X.3.2.2.m1.2.2.cmml"><mi id="A1.E32X.3.2.2.m1.2.2.4" xref="A1.E32X.3.2.2.m1.2.2.4.cmml"></mi><mo id="A1.E32X.3.2.2.m1.2.2.3" xref="A1.E32X.3.2.2.m1.2.2.3.cmml">=</mo><mrow id="A1.E32X.3.2.2.m1.2.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.cmml"><mstyle displaystyle="true" id="A1.E32X.3.2.2.m1.2.2.2.3" xref="A1.E32X.3.2.2.m1.2.2.2.3.cmml"><msub id="A1.E32X.3.2.2.m1.2.2.2.3a" xref="A1.E32X.3.2.2.m1.2.2.2.3.cmml"><mo id="A1.E32X.3.2.2.m1.2.2.2.3.2" xref="A1.E32X.3.2.2.m1.2.2.2.3.2.cmml">∫</mo><mrow id="A1.E32X.3.2.2.m1.2.2.2.3.3" xref="A1.E32X.3.2.2.m1.2.2.2.3.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E32X.3.2.2.m1.2.2.2.3.3.2" xref="A1.E32X.3.2.2.m1.2.2.2.3.3.2.cmml">𝒴</mi><mo id="A1.E32X.3.2.2.m1.2.2.2.3.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E32X.3.2.2.m1.2.2.2.3.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32X.3.2.2.m1.2.2.2.3.3.3" xref="A1.E32X.3.2.2.m1.2.2.2.3.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E32X.3.2.2.m1.2.2.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.cmml"><msub id="A1.E32X.3.2.2.m1.2.2.2.2.4" xref="A1.E32X.3.2.2.m1.2.2.2.2.4.cmml"><mi id="A1.E32X.3.2.2.m1.2.2.2.2.4.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.4.2.cmml">y</mi><mn id="A1.E32X.3.2.2.m1.2.2.2.2.4.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.4.3.cmml">1</mn></msub><mo id="A1.E32X.3.2.2.m1.2.2.2.2.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><msub id="A1.E32X.3.2.2.m1.2.2.2.2.5" xref="A1.E32X.3.2.2.m1.2.2.2.2.5.cmml"><mi id="A1.E32X.3.2.2.m1.2.2.2.2.5.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.5.2.cmml">y</mi><mn id="A1.E32X.3.2.2.m1.2.2.2.2.5.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.5.3.cmml">2</mn></msub><mo id="A1.E32X.3.2.2.m1.2.2.2.2.3a" xref="A1.E32X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><msub id="A1.E32X.3.2.2.m1.2.2.2.2.6" xref="A1.E32X.3.2.2.m1.2.2.2.2.6.cmml"><mi id="A1.E32X.3.2.2.m1.2.2.2.2.6.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.6.2.cmml">p</mi><mi id="A1.E32X.3.2.2.m1.2.2.2.2.6.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.6.3.cmml">θ</mi></msub><mo id="A1.E32X.3.2.2.m1.2.2.2.2.3b" xref="A1.E32X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E32X.3.2.2.m1.2.2.2.2.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.3.cmml"><mo id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.3" stretchy="false" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.3.cmml">(</mo><msub id="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1" xref="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.cmml"><mi id="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.2" xref="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.3" xref="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.4" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.3.cmml">,</mo><mrow id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.cmml"><msub id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.cmml"><mi id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.2.cmml">y</mi><mn id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.1" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.1.cmml">|</mo><mi id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.5" stretchy="false" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.3.cmml">)</mo></mrow><mo id="A1.E32X.3.2.2.m1.2.2.2.2.3c" lspace="0em" xref="A1.E32X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E32X.3.2.2.m1.2.2.2.2.7" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.cmml"><mo id="A1.E32X.3.2.2.m1.2.2.2.2.7.1" rspace="0em" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.1.cmml">d</mo><msub id="A1.E32X.3.2.2.m1.2.2.2.2.7.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.2.cmml"><mi id="A1.E32X.3.2.2.m1.2.2.2.2.7.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.2.2.cmml">y</mi><mn id="A1.E32X.3.2.2.m1.2.2.2.2.7.2.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.2.3.cmml">1</mn></msub></mrow><mo id="A1.E32X.3.2.2.m1.2.2.2.2.3d" lspace="0em" xref="A1.E32X.3.2.2.m1.2.2.2.2.3.cmml">⁢</mo><mrow id="A1.E32X.3.2.2.m1.2.2.2.2.8" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.cmml"><mo id="A1.E32X.3.2.2.m1.2.2.2.2.8.1" rspace="0em" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.1.cmml">d</mo><msub id="A1.E32X.3.2.2.m1.2.2.2.2.8.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.2.cmml"><mi id="A1.E32X.3.2.2.m1.2.2.2.2.8.2.2" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.2.2.cmml">y</mi><mn id="A1.E32X.3.2.2.m1.2.2.2.2.8.2.3" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E32X.3.2.2.m1.2b"><apply id="A1.E32X.3.2.2.m1.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2"><eq id="A1.E32X.3.2.2.m1.2.2.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.3"></eq><csymbol cd="latexml" id="A1.E32X.3.2.2.m1.2.2.4.cmml" xref="A1.E32X.3.2.2.m1.2.2.4">absent</csymbol><apply id="A1.E32X.3.2.2.m1.2.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2"><apply id="A1.E32X.3.2.2.m1.2.2.2.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.3"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.2.2.2.3.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.3">subscript</csymbol><int id="A1.E32X.3.2.2.m1.2.2.2.3.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.3.2"></int><apply id="A1.E32X.3.2.2.m1.2.2.2.3.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.3.3"><times id="A1.E32X.3.2.2.m1.2.2.2.3.3.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.3.3.1"></times><ci id="A1.E32X.3.2.2.m1.2.2.2.3.3.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.3.3.2">𝒴</ci><ci id="A1.E32X.3.2.2.m1.2.2.2.3.3.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.3.3.3">𝒴</ci></apply></apply><apply id="A1.E32X.3.2.2.m1.2.2.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2"><times id="A1.E32X.3.2.2.m1.2.2.2.2.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.3"></times><apply id="A1.E32X.3.2.2.m1.2.2.2.2.4.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.4"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.2.2.2.2.4.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.4">subscript</csymbol><ci id="A1.E32X.3.2.2.m1.2.2.2.2.4.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.4.2">𝑦</ci><cn id="A1.E32X.3.2.2.m1.2.2.2.2.4.3.cmml" type="integer" xref="A1.E32X.3.2.2.m1.2.2.2.2.4.3">1</cn></apply><apply id="A1.E32X.3.2.2.m1.2.2.2.2.5.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.5"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.2.2.2.2.5.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.5">subscript</csymbol><ci id="A1.E32X.3.2.2.m1.2.2.2.2.5.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.5.2">𝑦</ci><cn id="A1.E32X.3.2.2.m1.2.2.2.2.5.3.cmml" type="integer" xref="A1.E32X.3.2.2.m1.2.2.2.2.5.3">2</cn></apply><apply id="A1.E32X.3.2.2.m1.2.2.2.2.6.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.6"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.2.2.2.2.6.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.6">subscript</csymbol><ci id="A1.E32X.3.2.2.m1.2.2.2.2.6.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.6.2">𝑝</ci><ci id="A1.E32X.3.2.2.m1.2.2.2.2.6.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.6.3">𝜃</ci></apply><interval closure="open" id="A1.E32X.3.2.2.m1.2.2.2.2.2.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2"><apply id="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.cmml" xref="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.2.cmml" xref="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E32X.3.2.2.m1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2"><csymbol cd="latexml" id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.1">conditional</csymbol><apply id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2">subscript</csymbol><ci id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.2">𝑦</ci><cn id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.3.cmml" type="integer" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.2.3">2</cn></apply><ci id="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.3.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.2.2.2.3">𝑥</ci></apply></interval><apply id="A1.E32X.3.2.2.m1.2.2.2.2.7.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.7"><csymbol cd="latexml" id="A1.E32X.3.2.2.m1.2.2.2.2.7.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.1">differential-d</csymbol><apply id="A1.E32X.3.2.2.m1.2.2.2.2.7.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.2"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.2.2.2.2.7.2.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.2">subscript</csymbol><ci id="A1.E32X.3.2.2.m1.2.2.2.2.7.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.2.2">𝑦</ci><cn id="A1.E32X.3.2.2.m1.2.2.2.2.7.2.3.cmml" type="integer" xref="A1.E32X.3.2.2.m1.2.2.2.2.7.2.3">1</cn></apply></apply><apply id="A1.E32X.3.2.2.m1.2.2.2.2.8.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.8"><csymbol cd="latexml" id="A1.E32X.3.2.2.m1.2.2.2.2.8.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.1">differential-d</csymbol><apply id="A1.E32X.3.2.2.m1.2.2.2.2.8.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.2"><csymbol cd="ambiguous" id="A1.E32X.3.2.2.m1.2.2.2.2.8.2.1.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.2">subscript</csymbol><ci id="A1.E32X.3.2.2.m1.2.2.2.2.8.2.2.cmml" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.2.2">𝑦</ci><cn id="A1.E32X.3.2.2.m1.2.2.2.2.8.2.3.cmml" type="integer" xref="A1.E32X.3.2.2.m1.2.2.2.2.8.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32X.3.2.2.m1.2c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}p_{\theta}(y_{1},y_% {2}|x)\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E32X.3.2.2.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="6"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(32)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E32Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}\left(\int_{% \mathcal{X}}p(y_{1},y_{2}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}x^{\prime}% \right)\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_Math" display="inline" id="A1.E32Xa.2.1.1.m1.2"><semantics id="A1.E32Xa.2.1.1.m1.2a"><mrow id="A1.E32Xa.2.1.1.m1.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E32Xa.2.1.1.m1.2.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.cmml"><mstyle displaystyle="true" id="A1.E32Xa.2.1.1.m1.2.2.1.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.cmml"><msub id="A1.E32Xa.2.1.1.m1.2.2.1.2a" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.2.cmml">∫</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E32Xa.2.1.1.m1.2.2.1.2.3.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3.2.cmml">𝒴</mi><mo id="A1.E32Xa.2.1.1.m1.2.2.1.2.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32Xa.2.1.1.m1.2.2.1.2.3.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.cmml"><msub id="A1.E32Xa.2.1.1.m1.2.2.1.1.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.3.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.3.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.3.2.cmml">y</mi><mn id="A1.E32Xa.2.1.1.m1.2.2.1.1.3.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.3.3.cmml">1</mn></msub><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><msub id="A1.E32Xa.2.1.1.m1.2.2.1.1.4" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.4.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.4.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.4.2.cmml">y</mi><mn id="A1.E32Xa.2.1.1.m1.2.2.1.1.4.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.4.3.cmml">2</mn></msub><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.2a" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><msub id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4a" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml">p</mi><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.3" stretchy="false" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">(</mo><msub id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.4" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">,</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.cmml"><msub id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.2.cmml">y</mi><mn id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.1.cmml">|</mo><msup id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.2.cmml">x</mi><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.3.cmml">′</mo></msup></mrow><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.5" stretchy="false" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">)</mo></mrow><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4a" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml">p</mi><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4b" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.2" stretchy="false" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">(</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><msup id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml">x</mi><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml">|</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1" stretchy="false" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">[</mo><mi id="A1.E32Xa.2.1.1.m1.1.1" xref="A1.E32Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.2" stretchy="false" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.3" stretchy="false" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">)</mo></mrow><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4c" lspace="0em" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.1" rspace="0em" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.1.cmml">d</mo><msup id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.2.cmml">x</mi><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.3.cmml">′</mo></msup></mrow></mrow></mrow><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.2b" lspace="0em" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.5" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.1" rspace="0em" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.1.cmml">d</mo><msub id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.2.cmml">y</mi><mn id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.3.cmml">1</mn></msub></mrow><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.2c" lspace="0em" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xa.2.1.1.m1.2.2.1.1.6" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.cmml"><mo id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.1" rspace="0em" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.1.cmml">d</mo><msub id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.cmml"><mi id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.2" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.2.cmml">y</mi><mn id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.3" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E32Xa.2.1.1.m1.2b"><apply id="A1.E32Xa.2.1.1.m1.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2"><eq id="A1.E32Xa.2.1.1.m1.2.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E32Xa.2.1.1.m1.2.2.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E32Xa.2.1.1.m1.2.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1"><apply id="A1.E32Xa.2.1.1.m1.2.2.1.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.2"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.2">subscript</csymbol><int id="A1.E32Xa.2.1.1.m1.2.2.1.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.2"></int><apply id="A1.E32Xa.2.1.1.m1.2.2.1.2.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3"><times id="A1.E32Xa.2.1.1.m1.2.2.1.2.3.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3.1"></times><ci id="A1.E32Xa.2.1.1.m1.2.2.1.2.3.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3.2">𝒴</ci><ci id="A1.E32Xa.2.1.1.m1.2.2.1.2.3.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.2.3.3">𝒴</ci></apply></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1"><times id="A1.E32Xa.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.2"></times><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.3.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.3">subscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.3.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.3.2">𝑦</ci><cn id="A1.E32Xa.2.1.1.m1.2.2.1.1.3.3.cmml" type="integer" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.3.3">1</cn></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.4.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.4"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.4.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.4">subscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.4.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.4.2">𝑦</ci><cn id="A1.E32Xa.2.1.1.m1.2.2.1.1.4.3.cmml" type="integer" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.4.3">2</cn></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1"><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4">subscript</csymbol><int id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.2"></int><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.4.3">𝒳</ci></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3"><times id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.4"></times><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.5">𝑝</ci><interval closure="open" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2"><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2"><csymbol cd="latexml" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.1">conditional</csymbol><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2">subscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.2">𝑦</ci><cn id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.3.cmml" type="integer" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.2.3">2</cn></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3">superscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.2">𝑥</ci><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.2.3.3">′</ci></apply></apply></interval><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.6">𝑝</ci><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1"><csymbol cd="latexml" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1">conditional</csymbol><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2">superscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2">𝑥</ci><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3">′</ci></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2"><csymbol cd="latexml" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E32Xa.2.1.1.m1.1.1.cmml" xref="A1.E32Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7"><csymbol cd="latexml" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.1">differential-d</csymbol><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2">superscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.2">𝑥</ci><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.3.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.1.1.1.3.7.2.3">′</ci></apply></apply></apply></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5"><csymbol cd="latexml" id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.1">differential-d</csymbol><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2">subscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.2">𝑦</ci><cn id="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.3.cmml" type="integer" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.5.2.3">1</cn></apply></apply><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6"><csymbol cd="latexml" id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.1">differential-d</csymbol><apply id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2"><csymbol cd="ambiguous" id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.1.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2">subscript</csymbol><ci id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.2.cmml" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.2">𝑦</ci><cn id="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.3.cmml" type="integer" xref="A1.E32Xa.2.1.1.m1.2.2.1.1.6.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32Xa.2.1.1.m1.2c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}\left(\int_{% \mathcal{X}}p(y_{1},y_{2}|x^{\prime})p(x^{\prime}|[x])\mathrm{d}x^{\prime}% \right)\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E32Xa.2.1.1.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ( ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E32Xa.4.1.1.1">def. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem1" title="Definition 2.1. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.1</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E32Xa.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E32Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}\left(\int_{% \mathcal{X}}p(y_{1}|x^{\prime})\delta(y_{2}-y_{1})p(x^{\prime}|[x])\mathrm{d}x% ^{\prime}\right)\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_Math" display="inline" id="A1.E32Xb.2.1.1.m1.2"><semantics id="A1.E32Xb.2.1.1.m1.2a"><mrow id="A1.E32Xb.2.1.1.m1.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E32Xb.2.1.1.m1.2.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.cmml"><mstyle displaystyle="true" id="A1.E32Xb.2.1.1.m1.2.2.1.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.cmml"><msub id="A1.E32Xb.2.1.1.m1.2.2.1.2a" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.2.cmml">∫</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E32Xb.2.1.1.m1.2.2.1.2.3.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3.2.cmml">𝒴</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.2.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32Xb.2.1.1.m1.2.2.1.2.3.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.cmml"><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.3.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.3.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.3.2.cmml">y</mi><mn id="A1.E32Xb.2.1.1.m1.2.2.1.1.3.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.3.3.cmml">1</mn></msub><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.4" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.4.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.4.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.4.2.cmml">y</mi><mn id="A1.E32Xb.2.1.1.m1.2.2.1.1.4.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.4.3.cmml">2</mn></msub><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.2a" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4a" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.5" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml">p</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4a" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.6" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml">δ</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4b" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml">y</mi><mn id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml">2</mn></msub><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml">−</mo><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.cmml">y</mi><mn id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3.cmml">1</mn></msub></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4c" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.7" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.7.cmml">p</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4d" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.2" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">(</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml"><msup id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml">x</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml">|</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">[</mo><mi id="A1.E32Xb.2.1.1.m1.1.1" xref="A1.E32Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.2" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.3" stretchy="false" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml">)</mo></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4e" lspace="0em" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml">⁢</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.1" rspace="0em" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.1.cmml">d</mo><msup id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2.cmml">x</mi><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3.cmml">′</mo></msup></mrow></mrow></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.2b" lspace="0em" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.5" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.1" rspace="0em" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.1.cmml">d</mo><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.2.cmml">y</mi><mn id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.3.cmml">1</mn></msub></mrow><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.2c" lspace="0em" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xb.2.1.1.m1.2.2.1.1.6" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.cmml"><mo id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.1" rspace="0em" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.1.cmml">d</mo><msub id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.cmml"><mi id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.2" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.2.cmml">y</mi><mn id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.3" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E32Xb.2.1.1.m1.2b"><apply id="A1.E32Xb.2.1.1.m1.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2"><eq id="A1.E32Xb.2.1.1.m1.2.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E32Xb.2.1.1.m1.2.2.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E32Xb.2.1.1.m1.2.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1"><apply id="A1.E32Xb.2.1.1.m1.2.2.1.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.2"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.2">subscript</csymbol><int id="A1.E32Xb.2.1.1.m1.2.2.1.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.2"></int><apply id="A1.E32Xb.2.1.1.m1.2.2.1.2.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3"><times id="A1.E32Xb.2.1.1.m1.2.2.1.2.3.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3.1"></times><ci id="A1.E32Xb.2.1.1.m1.2.2.1.2.3.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3.2">𝒴</ci><ci id="A1.E32Xb.2.1.1.m1.2.2.1.2.3.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.2.3.3">𝒴</ci></apply></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1"><times id="A1.E32Xb.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.2"></times><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.3.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.3">subscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.3.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.3.2">𝑦</ci><cn id="A1.E32Xb.2.1.1.m1.2.2.1.1.3.3.cmml" type="integer" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.3.3">1</cn></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.4.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.4"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.4.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.4">subscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.4.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.4.2">𝑦</ci><cn id="A1.E32Xb.2.1.1.m1.2.2.1.1.4.3.cmml" type="integer" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.4.3">2</cn></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1"><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4">subscript</csymbol><int id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.2"></int><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.4.3">𝒳</ci></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3"><times id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.4"></times><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.5.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.5">𝑝</ci><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3">′</ci></apply></apply><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.6.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.6">𝛿</ci><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1"><minus id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1"></minus><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2">subscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2">𝑦</ci><cn id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml" type="integer" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3">2</cn></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3">subscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2">𝑦</ci><cn id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3.cmml" type="integer" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.3">1</cn></apply></apply><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.7.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.7">𝑝</ci><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1"><csymbol cd="latexml" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.1">conditional</csymbol><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2">superscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.2">𝑥</ci><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.2.3">′</ci></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2"><csymbol cd="latexml" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.3.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E32Xb.2.1.1.m1.1.1.cmml" xref="A1.E32Xb.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8"><csymbol cd="latexml" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.1">differential-d</csymbol><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2">superscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.2">𝑥</ci><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.1.1.1.3.8.2.3">′</ci></apply></apply></apply></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5"><csymbol cd="latexml" id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.1">differential-d</csymbol><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2">subscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.2">𝑦</ci><cn id="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.3.cmml" type="integer" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.5.2.3">1</cn></apply></apply><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6"><csymbol cd="latexml" id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.1">differential-d</csymbol><apply id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2"><csymbol cd="ambiguous" id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.1.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2">subscript</csymbol><ci id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.2.cmml" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.2">𝑦</ci><cn id="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.3.cmml" type="integer" xref="A1.E32Xb.2.1.1.m1.2.2.1.1.6.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32Xb.2.1.1.m1.2c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}\left(\int_{% \mathcal{X}}p(y_{1}|x^{\prime})\delta(y_{2}-y_{1})p(x^{\prime}|[x])\mathrm{d}x% ^{\prime}\right)\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E32Xb.2.1.1.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ( ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_δ ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT - italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E32Xb.4.1.1.1">train on couples</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E32Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}}y_{1}^{2}\left(\int_{\mathcal{X}}p(y_{1}|x^{% \prime})p(x^{\prime}|[x])\mathrm{d}x^{\prime}\right)\mathrm{d}y_{1}" class="ltx_Math" display="inline" id="A1.E32Xc.2.1.1.m1.2"><semantics id="A1.E32Xc.2.1.1.m1.2a"><mrow id="A1.E32Xc.2.1.1.m1.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E32Xc.2.1.1.m1.2.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.cmml"><mstyle displaystyle="true" id="A1.E32Xc.2.1.1.m1.2.2.1.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.2.cmml"><msub id="A1.E32Xc.2.1.1.m1.2.2.1.2a" xref="A1.E32Xc.2.1.1.m1.2.2.1.2.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32Xc.2.1.1.m1.2.2.1.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.cmml"><msubsup id="A1.E32Xc.2.1.1.m1.2.2.1.1.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.2.cmml">y</mi><mn id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.3.cmml">1</mn><mn id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3.3.cmml">2</mn></msubsup><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml">(</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><msub id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3a" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml">𝒳</mi></msub></mstyle><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.4" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.4.cmml">p</mi><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><msup id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml">x</mi><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml">′</mo></msup></mrow><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3a" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.5" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.5.cmml">p</mi><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3b" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml"><msup id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml">x</mi><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml">′</mo></msup><mo fence="false" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.1" stretchy="false" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.1.cmml">[</mo><mi id="A1.E32Xc.2.1.1.m1.1.1" xref="A1.E32Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.2" stretchy="false" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3c" lspace="0em" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.1" rspace="0em" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.1.cmml">d</mo><msup id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2.cmml">x</mi><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3.cmml">′</mo></msup></mrow></mrow></mrow><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.2a" lspace="0em" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xc.2.1.1.m1.2.2.1.1.4" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.cmml"><mo id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.1" rspace="0em" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.1.cmml">d</mo><msub id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.cmml"><mi id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.2" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.2.cmml">y</mi><mn id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.3" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.3.cmml">1</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E32Xc.2.1.1.m1.2b"><apply id="A1.E32Xc.2.1.1.m1.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2"><eq id="A1.E32Xc.2.1.1.m1.2.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E32Xc.2.1.1.m1.2.2.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E32Xc.2.1.1.m1.2.2.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1"><apply id="A1.E32Xc.2.1.1.m1.2.2.1.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.2"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.2.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.2">subscript</csymbol><int id="A1.E32Xc.2.1.1.m1.2.2.1.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.2.2"></int><ci id="A1.E32Xc.2.1.1.m1.2.2.1.2.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.2.3">𝒴</ci></apply><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1"><times id="A1.E32Xc.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.2"></times><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3">superscript</csymbol><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3">subscript</csymbol><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.2">𝑦</ci><cn id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.3.cmml" type="integer" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3.2.3">1</cn></apply><cn id="A1.E32Xc.2.1.1.m1.2.2.1.1.3.3.cmml" type="integer" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.3.3">2</cn></apply><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1"><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3">subscript</csymbol><int id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.2"></int><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.3.3">𝒳</ci></apply><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2"><times id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3"></times><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.4.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.4">𝑝</ci><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2">𝑥</ci><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3">′</ci></apply></apply><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.5.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.5">𝑝</ci><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2">superscript</csymbol><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.2">𝑥</ci><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.2.3">′</ci></apply><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2"><csymbol cd="latexml" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E32Xc.2.1.1.m1.1.1.cmml" xref="A1.E32Xc.2.1.1.m1.1.1">𝑥</ci></apply></apply><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6"><csymbol cd="latexml" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.1">differential-d</csymbol><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2">superscript</csymbol><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.2">𝑥</ci><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.1.1.1.2.6.2.3">′</ci></apply></apply></apply></apply><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4"><csymbol cd="latexml" id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.1">differential-d</csymbol><apply id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2"><csymbol cd="ambiguous" id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.1.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2">subscript</csymbol><ci id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.2.cmml" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.2">𝑦</ci><cn id="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.3.cmml" type="integer" xref="A1.E32Xc.2.1.1.m1.2.2.1.1.4.2.3">1</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32Xc.2.1.1.m1.2c">\displaystyle=\int_{\mathcal{Y}}y_{1}^{2}\left(\int_{\mathcal{X}}p(y_{1}|x^{% \prime})p(x^{\prime}|[x])\mathrm{d}x^{\prime}\right)\mathrm{d}y_{1}</annotation><annotation encoding="application/x-llamapun" id="A1.E32Xc.2.1.1.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( ∫ start_POSTSUBSCRIPT caligraphic_X end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) italic_p ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT | [ italic_x ] ) roman_d italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\text{def. of }\delta" class="ltx_Math" display="inline" id="A1.E32Xc.4.1.1.m1.1"><semantics id="A1.E32Xc.4.1.1.m1.1a"><mrow id="A1.E32Xc.4.1.1.m1.1.1" xref="A1.E32Xc.4.1.1.m1.1.1.cmml"><mtext id="A1.E32Xc.4.1.1.m1.1.1.2" xref="A1.E32Xc.4.1.1.m1.1.1.2a.cmml">def. of </mtext><mo id="A1.E32Xc.4.1.1.m1.1.1.1" xref="A1.E32Xc.4.1.1.m1.1.1.1.cmml">⁢</mo><mi id="A1.E32Xc.4.1.1.m1.1.1.3" xref="A1.E32Xc.4.1.1.m1.1.1.3.cmml">δ</mi></mrow><annotation-xml encoding="MathML-Content" id="A1.E32Xc.4.1.1.m1.1b"><apply id="A1.E32Xc.4.1.1.m1.1.1.cmml" xref="A1.E32Xc.4.1.1.m1.1.1"><times id="A1.E32Xc.4.1.1.m1.1.1.1.cmml" xref="A1.E32Xc.4.1.1.m1.1.1.1"></times><ci id="A1.E32Xc.4.1.1.m1.1.1.2a.cmml" xref="A1.E32Xc.4.1.1.m1.1.1.2"><mtext id="A1.E32Xc.4.1.1.m1.1.1.2.cmml" xref="A1.E32Xc.4.1.1.m1.1.1.2">def. of </mtext></ci><ci id="A1.E32Xc.4.1.1.m1.1.1.3.cmml" xref="A1.E32Xc.4.1.1.m1.1.1.3">𝛿</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32Xc.4.1.1.m1.1c">\displaystyle\text{def. of }\delta</annotation><annotation encoding="application/x-llamapun" id="A1.E32Xc.4.1.1.m1.1d">def. of italic_δ</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E32Xd"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}}y_{1}^{2}p_{\theta}(y_{1}|x)\mathrm{d}y_{1}" class="ltx_Math" display="inline" id="A1.E32Xd.2.1.1.m1.1"><semantics id="A1.E32Xd.2.1.1.m1.1a"><mrow id="A1.E32Xd.2.1.1.m1.1.1" xref="A1.E32Xd.2.1.1.m1.1.1.cmml"><mi id="A1.E32Xd.2.1.1.m1.1.1.3" xref="A1.E32Xd.2.1.1.m1.1.1.3.cmml"></mi><mo id="A1.E32Xd.2.1.1.m1.1.1.2" xref="A1.E32Xd.2.1.1.m1.1.1.2.cmml">=</mo><mrow id="A1.E32Xd.2.1.1.m1.1.1.1" xref="A1.E32Xd.2.1.1.m1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E32Xd.2.1.1.m1.1.1.1.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.2.cmml"><msub id="A1.E32Xd.2.1.1.m1.1.1.1.2a" xref="A1.E32Xd.2.1.1.m1.1.1.1.2.cmml"><mo id="A1.E32Xd.2.1.1.m1.1.1.1.2.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E32Xd.2.1.1.m1.1.1.1.2.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E32Xd.2.1.1.m1.1.1.1.1" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.cmml"><msubsup id="A1.E32Xd.2.1.1.m1.1.1.1.1.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3.cmml"><mi id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.2.cmml">y</mi><mn id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.3.cmml">1</mn><mn id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3.3.cmml">2</mn></msubsup><mo id="A1.E32Xd.2.1.1.m1.1.1.1.1.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.2.cmml">⁢</mo><msub id="A1.E32Xd.2.1.1.m1.1.1.1.1.4" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.4.cmml"><mi id="A1.E32Xd.2.1.1.m1.1.1.1.1.4.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.4.2.cmml">p</mi><mi id="A1.E32Xd.2.1.1.m1.1.1.1.1.4.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.4.3.cmml">θ</mi></msub><mo id="A1.E32Xd.2.1.1.m1.1.1.1.1.2a" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.cmml"><mo id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.cmml"><msub id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.1" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E32Xd.2.1.1.m1.1.1.1.1.2b" lspace="0em" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xd.2.1.1.m1.1.1.1.1.5" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.cmml"><mo id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.1" rspace="0em" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.1.cmml">d</mo><msub id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.cmml"><mi id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.2" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.2.cmml">y</mi><mn id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.3" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.3.cmml">1</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E32Xd.2.1.1.m1.1b"><apply id="A1.E32Xd.2.1.1.m1.1.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1"><eq id="A1.E32Xd.2.1.1.m1.1.1.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.2"></eq><csymbol cd="latexml" id="A1.E32Xd.2.1.1.m1.1.1.3.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.3">absent</csymbol><apply id="A1.E32Xd.2.1.1.m1.1.1.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1"><apply id="A1.E32Xd.2.1.1.m1.1.1.1.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xd.2.1.1.m1.1.1.1.2.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.2">subscript</csymbol><int id="A1.E32Xd.2.1.1.m1.1.1.1.2.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.2.2"></int><ci id="A1.E32Xd.2.1.1.m1.1.1.1.2.3.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.2.3">𝒴</ci></apply><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1"><times id="A1.E32Xd.2.1.1.m1.1.1.1.1.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.2"></times><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3">superscript</csymbol><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3">subscript</csymbol><ci id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.2">𝑦</ci><cn id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.3.cmml" type="integer" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3.2.3">1</cn></apply><cn id="A1.E32Xd.2.1.1.m1.1.1.1.1.3.3.cmml" type="integer" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.3.3">2</cn></apply><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.4.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E32Xd.2.1.1.m1.1.1.1.1.4.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.4">subscript</csymbol><ci id="A1.E32Xd.2.1.1.m1.1.1.1.1.4.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.4.2">𝑝</ci><ci id="A1.E32Xd.2.1.1.m1.1.1.1.1.4.3.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.4.3">𝜃</ci></apply><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.3.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.1.1.1.3">𝑥</ci></apply><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5"><csymbol cd="latexml" id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.1">differential-d</csymbol><apply id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2"><csymbol cd="ambiguous" id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.1.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2">subscript</csymbol><ci id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.2.cmml" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.2">𝑦</ci><cn id="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.3.cmml" type="integer" xref="A1.E32Xd.2.1.1.m1.1.1.1.1.5.2.3">1</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32Xd.2.1.1.m1.1c">\displaystyle=\int_{\mathcal{Y}}y_{1}^{2}p_{\theta}(y_{1}|x)\mathrm{d}y_{1}</annotation><annotation encoding="application/x-llamapun" id="A1.E32Xd.2.1.1.m1.1d">= ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E32Xd.4.1.1.1">def. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem1" title="Definition 2.1. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.1</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E32Xd.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E32Xe"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}_{\theta}[Y_{1}^{2}]" class="ltx_Math" display="inline" id="A1.E32Xe.2.1.1.m1.1"><semantics id="A1.E32Xe.2.1.1.m1.1a"><mrow id="A1.E32Xe.2.1.1.m1.1.1" xref="A1.E32Xe.2.1.1.m1.1.1.cmml"><mi id="A1.E32Xe.2.1.1.m1.1.1.3" xref="A1.E32Xe.2.1.1.m1.1.1.3.cmml"></mi><mo id="A1.E32Xe.2.1.1.m1.1.1.2" xref="A1.E32Xe.2.1.1.m1.1.1.2.cmml">=</mo><mrow id="A1.E32Xe.2.1.1.m1.1.1.1" xref="A1.E32Xe.2.1.1.m1.1.1.1.cmml"><msub id="A1.E32Xe.2.1.1.m1.1.1.1.3" xref="A1.E32Xe.2.1.1.m1.1.1.1.3.cmml"><mi id="A1.E32Xe.2.1.1.m1.1.1.1.3.2" xref="A1.E32Xe.2.1.1.m1.1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E32Xe.2.1.1.m1.1.1.1.3.3" xref="A1.E32Xe.2.1.1.m1.1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E32Xe.2.1.1.m1.1.1.1.2" xref="A1.E32Xe.2.1.1.m1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E32Xe.2.1.1.m1.1.1.1.1.1" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.2.cmml"><mo id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.2" stretchy="false" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.2.1.cmml">[</mo><msubsup id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.cmml"><mi id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.2" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.3" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.3.cmml">1</mn><mn id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.3" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.3.cmml">2</mn></msubsup><mo id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.3" stretchy="false" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E32Xe.2.1.1.m1.1b"><apply id="A1.E32Xe.2.1.1.m1.1.1.cmml" xref="A1.E32Xe.2.1.1.m1.1.1"><eq id="A1.E32Xe.2.1.1.m1.1.1.2.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.2"></eq><csymbol cd="latexml" id="A1.E32Xe.2.1.1.m1.1.1.3.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.3">absent</csymbol><apply id="A1.E32Xe.2.1.1.m1.1.1.1.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1"><times id="A1.E32Xe.2.1.1.m1.1.1.1.2.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.2"></times><apply id="A1.E32Xe.2.1.1.m1.1.1.1.3.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E32Xe.2.1.1.m1.1.1.1.3.1.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.3">subscript</csymbol><ci id="A1.E32Xe.2.1.1.m1.1.1.1.3.2.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.3.2">𝔼</ci><ci id="A1.E32Xe.2.1.1.m1.1.1.1.3.3.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.3.3">𝜃</ci></apply><apply id="A1.E32Xe.2.1.1.m1.1.1.1.1.2.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E32Xe.2.1.1.m1.1.1.1.1.2.1.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.1.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1">superscript</csymbol><apply id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.1.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.2.cmml" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.2.3">1</cn></apply><cn id="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E32Xe.2.1.1.m1.1.1.1.1.1.1.3">2</cn></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E32Xe.2.1.1.m1.1c">\displaystyle=\mathbb{E}_{\theta}[Y_{1}^{2}]</annotation><annotation encoding="application/x-llamapun" id="A1.E32Xe.2.1.1.m1.1d">= blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.6.p1.2">and that, following the same logic:</p> <table class="ltx_equation ltx_eqn_table" id="A1.E33"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathbb{E}_{\theta}[Y_{1}]\cdot\mathbb{E}_{\theta}[Y_{2}]=\mathbb{E}_{\theta}^% {2}[Y_{1}]" class="ltx_Math" display="block" id="A1.E33.m1.3"><semantics id="A1.E33.m1.3a"><mrow id="A1.E33.m1.3.3" xref="A1.E33.m1.3.3.cmml"><mrow id="A1.E33.m1.2.2.2" xref="A1.E33.m1.2.2.2.cmml"><mrow id="A1.E33.m1.1.1.1.1" xref="A1.E33.m1.1.1.1.1.cmml"><mrow id="A1.E33.m1.1.1.1.1.1" xref="A1.E33.m1.1.1.1.1.1.cmml"><msub id="A1.E33.m1.1.1.1.1.1.3" xref="A1.E33.m1.1.1.1.1.1.3.cmml"><mi id="A1.E33.m1.1.1.1.1.1.3.2" xref="A1.E33.m1.1.1.1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E33.m1.1.1.1.1.1.3.3" xref="A1.E33.m1.1.1.1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E33.m1.1.1.1.1.1.2" xref="A1.E33.m1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E33.m1.1.1.1.1.1.1.1" xref="A1.E33.m1.1.1.1.1.1.1.2.cmml"><mo id="A1.E33.m1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E33.m1.1.1.1.1.1.1.2.1.cmml">[</mo><msub id="A1.E33.m1.1.1.1.1.1.1.1.1" xref="A1.E33.m1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E33.m1.1.1.1.1.1.1.1.1.2" xref="A1.E33.m1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mn id="A1.E33.m1.1.1.1.1.1.1.1.1.3" xref="A1.E33.m1.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E33.m1.1.1.1.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="A1.E33.m1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E33.m1.1.1.1.1.2" rspace="0.222em" xref="A1.E33.m1.1.1.1.1.2.cmml">⋅</mo><msub id="A1.E33.m1.1.1.1.1.3" xref="A1.E33.m1.1.1.1.1.3.cmml"><mi id="A1.E33.m1.1.1.1.1.3.2" xref="A1.E33.m1.1.1.1.1.3.2.cmml">𝔼</mi><mi id="A1.E33.m1.1.1.1.1.3.3" xref="A1.E33.m1.1.1.1.1.3.3.cmml">θ</mi></msub></mrow><mo id="A1.E33.m1.2.2.2.3" xref="A1.E33.m1.2.2.2.3.cmml">⁢</mo><mrow id="A1.E33.m1.2.2.2.2.1" xref="A1.E33.m1.2.2.2.2.2.cmml"><mo id="A1.E33.m1.2.2.2.2.1.2" stretchy="false" xref="A1.E33.m1.2.2.2.2.2.1.cmml">[</mo><msub id="A1.E33.m1.2.2.2.2.1.1" xref="A1.E33.m1.2.2.2.2.1.1.cmml"><mi id="A1.E33.m1.2.2.2.2.1.1.2" xref="A1.E33.m1.2.2.2.2.1.1.2.cmml">Y</mi><mn id="A1.E33.m1.2.2.2.2.1.1.3" xref="A1.E33.m1.2.2.2.2.1.1.3.cmml">2</mn></msub><mo id="A1.E33.m1.2.2.2.2.1.3" stretchy="false" xref="A1.E33.m1.2.2.2.2.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E33.m1.3.3.4" xref="A1.E33.m1.3.3.4.cmml">=</mo><mrow id="A1.E33.m1.3.3.3" xref="A1.E33.m1.3.3.3.cmml"><msubsup id="A1.E33.m1.3.3.3.3" xref="A1.E33.m1.3.3.3.3.cmml"><mi id="A1.E33.m1.3.3.3.3.2.2" xref="A1.E33.m1.3.3.3.3.2.2.cmml">𝔼</mi><mi id="A1.E33.m1.3.3.3.3.2.3" xref="A1.E33.m1.3.3.3.3.2.3.cmml">θ</mi><mn id="A1.E33.m1.3.3.3.3.3" xref="A1.E33.m1.3.3.3.3.3.cmml">2</mn></msubsup><mo id="A1.E33.m1.3.3.3.2" xref="A1.E33.m1.3.3.3.2.cmml">⁢</mo><mrow id="A1.E33.m1.3.3.3.1.1" xref="A1.E33.m1.3.3.3.1.2.cmml"><mo id="A1.E33.m1.3.3.3.1.1.2" stretchy="false" xref="A1.E33.m1.3.3.3.1.2.1.cmml">[</mo><msub id="A1.E33.m1.3.3.3.1.1.1" xref="A1.E33.m1.3.3.3.1.1.1.cmml"><mi id="A1.E33.m1.3.3.3.1.1.1.2" xref="A1.E33.m1.3.3.3.1.1.1.2.cmml">Y</mi><mn id="A1.E33.m1.3.3.3.1.1.1.3" xref="A1.E33.m1.3.3.3.1.1.1.3.cmml">1</mn></msub><mo id="A1.E33.m1.3.3.3.1.1.3" stretchy="false" xref="A1.E33.m1.3.3.3.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E33.m1.3b"><apply id="A1.E33.m1.3.3.cmml" xref="A1.E33.m1.3.3"><eq id="A1.E33.m1.3.3.4.cmml" xref="A1.E33.m1.3.3.4"></eq><apply id="A1.E33.m1.2.2.2.cmml" xref="A1.E33.m1.2.2.2"><times id="A1.E33.m1.2.2.2.3.cmml" xref="A1.E33.m1.2.2.2.3"></times><apply id="A1.E33.m1.1.1.1.1.cmml" xref="A1.E33.m1.1.1.1.1"><ci id="A1.E33.m1.1.1.1.1.2.cmml" xref="A1.E33.m1.1.1.1.1.2">⋅</ci><apply id="A1.E33.m1.1.1.1.1.1.cmml" xref="A1.E33.m1.1.1.1.1.1"><times id="A1.E33.m1.1.1.1.1.1.2.cmml" xref="A1.E33.m1.1.1.1.1.1.2"></times><apply id="A1.E33.m1.1.1.1.1.1.3.cmml" xref="A1.E33.m1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E33.m1.1.1.1.1.1.3.1.cmml" xref="A1.E33.m1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.E33.m1.1.1.1.1.1.3.2.cmml" xref="A1.E33.m1.1.1.1.1.1.3.2">𝔼</ci><ci id="A1.E33.m1.1.1.1.1.1.3.3.cmml" xref="A1.E33.m1.1.1.1.1.1.3.3">𝜃</ci></apply><apply id="A1.E33.m1.1.1.1.1.1.1.2.cmml" xref="A1.E33.m1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E33.m1.1.1.1.1.1.1.2.1.cmml" xref="A1.E33.m1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E33.m1.1.1.1.1.1.1.1.1.cmml" xref="A1.E33.m1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E33.m1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E33.m1.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.E33.m1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E33.m1.1.1.1.1.1.1.1.1.2">𝑌</ci><cn id="A1.E33.m1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E33.m1.1.1.1.1.1.1.1.1.3">1</cn></apply></apply></apply><apply id="A1.E33.m1.1.1.1.1.3.cmml" xref="A1.E33.m1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E33.m1.1.1.1.1.3.1.cmml" xref="A1.E33.m1.1.1.1.1.3">subscript</csymbol><ci id="A1.E33.m1.1.1.1.1.3.2.cmml" xref="A1.E33.m1.1.1.1.1.3.2">𝔼</ci><ci id="A1.E33.m1.1.1.1.1.3.3.cmml" xref="A1.E33.m1.1.1.1.1.3.3">𝜃</ci></apply></apply><apply id="A1.E33.m1.2.2.2.2.2.cmml" xref="A1.E33.m1.2.2.2.2.1"><csymbol cd="latexml" id="A1.E33.m1.2.2.2.2.2.1.cmml" xref="A1.E33.m1.2.2.2.2.1.2">delimited-[]</csymbol><apply id="A1.E33.m1.2.2.2.2.1.1.cmml" xref="A1.E33.m1.2.2.2.2.1.1"><csymbol cd="ambiguous" id="A1.E33.m1.2.2.2.2.1.1.1.cmml" xref="A1.E33.m1.2.2.2.2.1.1">subscript</csymbol><ci id="A1.E33.m1.2.2.2.2.1.1.2.cmml" xref="A1.E33.m1.2.2.2.2.1.1.2">𝑌</ci><cn id="A1.E33.m1.2.2.2.2.1.1.3.cmml" type="integer" xref="A1.E33.m1.2.2.2.2.1.1.3">2</cn></apply></apply></apply><apply id="A1.E33.m1.3.3.3.cmml" xref="A1.E33.m1.3.3.3"><times id="A1.E33.m1.3.3.3.2.cmml" xref="A1.E33.m1.3.3.3.2"></times><apply id="A1.E33.m1.3.3.3.3.cmml" xref="A1.E33.m1.3.3.3.3"><csymbol cd="ambiguous" id="A1.E33.m1.3.3.3.3.1.cmml" xref="A1.E33.m1.3.3.3.3">superscript</csymbol><apply id="A1.E33.m1.3.3.3.3.2.cmml" xref="A1.E33.m1.3.3.3.3"><csymbol cd="ambiguous" id="A1.E33.m1.3.3.3.3.2.1.cmml" xref="A1.E33.m1.3.3.3.3">subscript</csymbol><ci id="A1.E33.m1.3.3.3.3.2.2.cmml" xref="A1.E33.m1.3.3.3.3.2.2">𝔼</ci><ci id="A1.E33.m1.3.3.3.3.2.3.cmml" xref="A1.E33.m1.3.3.3.3.2.3">𝜃</ci></apply><cn id="A1.E33.m1.3.3.3.3.3.cmml" type="integer" xref="A1.E33.m1.3.3.3.3.3">2</cn></apply><apply id="A1.E33.m1.3.3.3.1.2.cmml" xref="A1.E33.m1.3.3.3.1.1"><csymbol cd="latexml" id="A1.E33.m1.3.3.3.1.2.1.cmml" xref="A1.E33.m1.3.3.3.1.1.2">delimited-[]</csymbol><apply id="A1.E33.m1.3.3.3.1.1.1.cmml" xref="A1.E33.m1.3.3.3.1.1.1"><csymbol cd="ambiguous" id="A1.E33.m1.3.3.3.1.1.1.1.cmml" xref="A1.E33.m1.3.3.3.1.1.1">subscript</csymbol><ci id="A1.E33.m1.3.3.3.1.1.1.2.cmml" xref="A1.E33.m1.3.3.3.1.1.1.2">𝑌</ci><cn id="A1.E33.m1.3.3.3.1.1.1.3.cmml" type="integer" xref="A1.E33.m1.3.3.3.1.1.1.3">1</cn></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E33.m1.3c">\mathbb{E}_{\theta}[Y_{1}]\cdot\mathbb{E}_{\theta}[Y_{2}]=\mathbb{E}_{\theta}^% {2}[Y_{1}]</annotation><annotation encoding="application/x-llamapun" id="A1.E33.m1.3d">blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ] ⋅ blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ] = blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(33)</span></td> </tr></tbody> </table> </div> <div class="ltx_para" id="A1.7.p2"> <p class="ltx_p" id="A1.7.p2.1">∎</p> </div> </div> <div class="ltx_proof" id="A1.8"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.E9" title="Equation 9 ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">9</span></a>).</h6> <div class="ltx_para" id="A1.8.p1"> <table class="ltx_equationgroup ltx_eqn_table" id="A1.Ex7"> <tbody id="A1.Ex7X"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="A1.Ex7X.2.1.1.m1.1"><semantics id="A1.Ex7X.2.1.1.m1.1a"><mrow id="A1.Ex7X.2.1.1.m1.1.2" xref="A1.Ex7X.2.1.1.m1.1.2.cmml"><msub id="A1.Ex7X.2.1.1.m1.1.2.2" xref="A1.Ex7X.2.1.1.m1.1.2.2.cmml"><mi id="A1.Ex7X.2.1.1.m1.1.2.2.2" xref="A1.Ex7X.2.1.1.m1.1.2.2.2.cmml">cov</mi><mi id="A1.Ex7X.2.1.1.m1.1.2.2.3" xref="A1.Ex7X.2.1.1.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A1.Ex7X.2.1.1.m1.1.2.1" xref="A1.Ex7X.2.1.1.m1.1.2.1.cmml">⁢</mo><mrow id="A1.Ex7X.2.1.1.m1.1.2.3.2" xref="A1.Ex7X.2.1.1.m1.1.2.cmml"><mo id="A1.Ex7X.2.1.1.m1.1.2.3.2.1" stretchy="false" xref="A1.Ex7X.2.1.1.m1.1.2.cmml">(</mo><mi id="A1.Ex7X.2.1.1.m1.1.1" xref="A1.Ex7X.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.Ex7X.2.1.1.m1.1.2.3.2.2" stretchy="false" xref="A1.Ex7X.2.1.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Ex7X.2.1.1.m1.1b"><apply id="A1.Ex7X.2.1.1.m1.1.2.cmml" xref="A1.Ex7X.2.1.1.m1.1.2"><times id="A1.Ex7X.2.1.1.m1.1.2.1.cmml" xref="A1.Ex7X.2.1.1.m1.1.2.1"></times><apply id="A1.Ex7X.2.1.1.m1.1.2.2.cmml" xref="A1.Ex7X.2.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="A1.Ex7X.2.1.1.m1.1.2.2.1.cmml" xref="A1.Ex7X.2.1.1.m1.1.2.2">subscript</csymbol><ci id="A1.Ex7X.2.1.1.m1.1.2.2.2.cmml" xref="A1.Ex7X.2.1.1.m1.1.2.2.2">cov</ci><ci id="A1.Ex7X.2.1.1.m1.1.2.2.3.cmml" xref="A1.Ex7X.2.1.1.m1.1.2.2.3">𝜃</ci></apply><ci id="A1.Ex7X.2.1.1.m1.1.1.cmml" xref="A1.Ex7X.2.1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7X.2.1.1.m1.1c">\displaystyle\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7X.2.1.1.m1.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}_{\theta}[Y_{1}\cdot Y_{2}|x]-\mathbb{E}_{\theta}[Y_{1% }|x]\cdot\mathbb{E}_{\theta}[Y_{2}|x" class="ltx_math_unparsed" display="inline" id="A1.Ex7X.3.2.2.m1.1"><semantics id="A1.Ex7X.3.2.2.m1.1a"><mrow id="A1.Ex7X.3.2.2.m1.1b"><mo id="A1.Ex7X.3.2.2.m1.1.1">=</mo><msub id="A1.Ex7X.3.2.2.m1.1.2"><mi id="A1.Ex7X.3.2.2.m1.1.2.2">𝔼</mi><mi id="A1.Ex7X.3.2.2.m1.1.2.3">θ</mi></msub><mrow id="A1.Ex7X.3.2.2.m1.1.3"><mo id="A1.Ex7X.3.2.2.m1.1.3.1" stretchy="false">[</mo><msub id="A1.Ex7X.3.2.2.m1.1.3.2"><mi id="A1.Ex7X.3.2.2.m1.1.3.2.2">Y</mi><mn id="A1.Ex7X.3.2.2.m1.1.3.2.3">1</mn></msub><mo id="A1.Ex7X.3.2.2.m1.1.3.3" lspace="0.222em" rspace="0.222em">⋅</mo><msub id="A1.Ex7X.3.2.2.m1.1.3.4"><mi id="A1.Ex7X.3.2.2.m1.1.3.4.2">Y</mi><mn id="A1.Ex7X.3.2.2.m1.1.3.4.3">2</mn></msub><mo fence="false" id="A1.Ex7X.3.2.2.m1.1.3.5" rspace="0.167em" stretchy="false">|</mo><mi id="A1.Ex7X.3.2.2.m1.1.3.6">x</mi><mo id="A1.Ex7X.3.2.2.m1.1.3.7" stretchy="false">]</mo></mrow><mo id="A1.Ex7X.3.2.2.m1.1.4">−</mo><msub id="A1.Ex7X.3.2.2.m1.1.5"><mi id="A1.Ex7X.3.2.2.m1.1.5.2">𝔼</mi><mi id="A1.Ex7X.3.2.2.m1.1.5.3">θ</mi></msub><mrow id="A1.Ex7X.3.2.2.m1.1.6"><mo id="A1.Ex7X.3.2.2.m1.1.6.1" stretchy="false">[</mo><msub id="A1.Ex7X.3.2.2.m1.1.6.2"><mi id="A1.Ex7X.3.2.2.m1.1.6.2.2">Y</mi><mn id="A1.Ex7X.3.2.2.m1.1.6.2.3">1</mn></msub><mo fence="false" id="A1.Ex7X.3.2.2.m1.1.6.3" rspace="0.167em" stretchy="false">|</mo><mi id="A1.Ex7X.3.2.2.m1.1.6.4">x</mi><mo id="A1.Ex7X.3.2.2.m1.1.6.5" rspace="0.055em" stretchy="false">]</mo></mrow><mo id="A1.Ex7X.3.2.2.m1.1.7" rspace="0.222em">⋅</mo><msub id="A1.Ex7X.3.2.2.m1.1.8"><mi id="A1.Ex7X.3.2.2.m1.1.8.2">𝔼</mi><mi id="A1.Ex7X.3.2.2.m1.1.8.3">θ</mi></msub><mrow id="A1.Ex7X.3.2.2.m1.1.9"><mo id="A1.Ex7X.3.2.2.m1.1.9.1" stretchy="false">[</mo><msub id="A1.Ex7X.3.2.2.m1.1.9.2"><mi id="A1.Ex7X.3.2.2.m1.1.9.2.2">Y</mi><mn id="A1.Ex7X.3.2.2.m1.1.9.2.3">2</mn></msub><mo fence="false" id="A1.Ex7X.3.2.2.m1.1.9.3" rspace="0.167em" stretchy="false">|</mo><mi id="A1.Ex7X.3.2.2.m1.1.9.4">x</mi></mrow></mrow><annotation encoding="application/x-tex" id="A1.Ex7X.3.2.2.m1.1c">\displaystyle=\mathbb{E}_{\theta}[Y_{1}\cdot Y_{2}|x]-\mathbb{E}_{\theta}[Y_{1% }|x]\cdot\mathbb{E}_{\theta}[Y_{2}|x</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7X.3.2.2.m1.1d">= blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ⋅ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ] - blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ] ⋅ blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.Ex7X.5.1.1.1">def. of </span><math alttext="\mathrm{cov}_{\theta}" class="ltx_markedasmath" display="inline" id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1a"><msub id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml"><mi id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.2" xref="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.2.cmml">cov</mi><mi id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.3" xref="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1b"><apply id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1"><csymbol cd="ambiguous" id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.1.cmml" xref="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1">subscript</csymbol><ci id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.2.cmml" xref="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.2">cov</ci><ci id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.3.cmml" xref="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathrm{cov}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7.m1.1.1.1.1.1.1.1.m1.mf.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> <tbody id="A1.Ex7Xa"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}p_{\theta}(y_{1},y_% {2}|x)\mathrm{d}y_{1}\mathrm{d}y_{2}-\mu_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="A1.Ex7Xa.2.1.1.m1.3"><semantics id="A1.Ex7Xa.2.1.1.m1.3a"><mrow id="A1.Ex7Xa.2.1.1.m1.3.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.4" xref="A1.Ex7Xa.2.1.1.m1.3.3.4.cmml"></mi><mo id="A1.Ex7Xa.2.1.1.m1.3.3.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.3.cmml">=</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.cmml"><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.cmml"><mstyle displaystyle="true" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.cmml"><msub id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3a" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.cmml"><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.2.cmml">∫</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.2.cmml">𝒴</mi><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.1" lspace="0.222em" rspace="0.222em" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.cmml"><msub id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.2.cmml">y</mi><mn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.3.cmml">1</mn></msub><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3.cmml">⁢</mo><msub id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.2.cmml">y</mi><mn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.3.cmml">2</mn></msub><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3a" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3.cmml">⁢</mo><msub id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.2.cmml">p</mi><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.3.cmml">θ</mi></msub><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3b" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.3.cmml"><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.3" stretchy="false" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.3.cmml">(</mo><msub id="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2" xref="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3" xref="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.4" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.3.cmml">,</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.cmml"><msub id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.2.cmml">y</mi><mn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.1" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.1.cmml">|</mo><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.5" stretchy="false" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.3.cmml">)</mo></mrow><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3c" lspace="0em" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.cmml"><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.1" rspace="0em" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.1.cmml">d</mo><msub id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.2.cmml">y</mi><mn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.3.cmml">1</mn></msub></mrow><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3d" lspace="0em" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.cmml"><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.1" rspace="0em" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.1.cmml">d</mo><msub id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.2.cmml">y</mi><mn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.3.cmml">2</mn></msub></mrow></mrow></mrow><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.3.cmml">−</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.4" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.cmml"><msubsup id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.cmml"><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.2.cmml">μ</mi><mi id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.3.cmml">θ</mi><mn id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.3" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.3.cmml">2</mn></msubsup><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.1" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.1.cmml">⁢</mo><mrow id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.3.2" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.cmml"><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.3.2.1" stretchy="false" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.cmml">(</mo><mi id="A1.Ex7Xa.2.1.1.m1.1.1" xref="A1.Ex7Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.3.2.2" stretchy="false" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Ex7Xa.2.1.1.m1.3b"><apply id="A1.Ex7Xa.2.1.1.m1.3.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3"><eq id="A1.Ex7Xa.2.1.1.m1.3.3.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.3"></eq><csymbol cd="latexml" id="A1.Ex7Xa.2.1.1.m1.3.3.4.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.4">absent</csymbol><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2"><minus id="A1.Ex7Xa.2.1.1.m1.3.3.2.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.3"></minus><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2"><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3">subscript</csymbol><int id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.2"></int><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3"><times id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.1"></times><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.2">𝒴</ci><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.3.3.3">𝒴</ci></apply></apply><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2"><times id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.3"></times><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.2">𝑦</ci><cn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.3.cmml" type="integer" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.4.3">1</cn></apply><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.2">𝑦</ci><cn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.3.cmml" type="integer" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.5.3">2</cn></apply><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.2">𝑝</ci><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.6.3">𝜃</ci></apply><interval closure="open" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2"><apply id="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2">𝑦</ci><cn id="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.Ex7Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3">1</cn></apply><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2"><csymbol cd="latexml" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.1">conditional</csymbol><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.2">𝑦</ci><cn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.3.cmml" type="integer" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.2.3">2</cn></apply><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.2.2.2.3">𝑥</ci></apply></interval><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7"><csymbol cd="latexml" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.1">differential-d</csymbol><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.2">𝑦</ci><cn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.3.cmml" type="integer" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.7.2.3">1</cn></apply></apply><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8"><csymbol cd="latexml" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.1">differential-d</csymbol><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.2">𝑦</ci><cn id="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.3.cmml" type="integer" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.2.2.8.2.3">2</cn></apply></apply></apply></apply><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4"><times id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.1"></times><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2">superscript</csymbol><apply id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2"><csymbol cd="ambiguous" id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2">subscript</csymbol><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.2.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.2">𝜇</ci><ci id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.3.cmml" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.2.3">𝜃</ci></apply><cn id="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.3.cmml" type="integer" xref="A1.Ex7Xa.2.1.1.m1.3.3.2.4.2.3">2</cn></apply><ci id="A1.Ex7Xa.2.1.1.m1.1.1.cmml" xref="A1.Ex7Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7Xa.2.1.1.m1.3c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}y_{1}y_{2}p_{\theta}(y_{1},y_% {2}|x)\mathrm{d}y_{1}\mathrm{d}y_{2}-\mu_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7Xa.2.1.1.m1.3d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.Ex7Xa.4.1.1.1">def. of </span><math alttext="\mathbb{E}" class="ltx_markedasmath" display="inline" id="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1"><semantics id="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1a"><mi id="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1.1" xref="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1.1.cmml">𝔼</mi><annotation-xml encoding="MathML-Content" id="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1b"><ci id="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1.1.cmml" xref="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1.1">𝔼</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1c">\mathbb{E}</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7.m1.2.2.2.1.1.1.1.m1.mf.1d">blackboard_E</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> <tbody id="A1.Ex7Xb"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}}\left[\int_{\mathcal{Y}}\!y_{2}p_{\theta}(y_{2% }|y_{1},x)\mathrm{d}y_{2}\right]y_{1}p_{\theta}(y_{1}|x)\mathrm{d}y_{1}-\mu_{% \theta}^{2}(x)" class="ltx_Math" display="inline" id="A1.Ex7Xb.2.1.1.m1.4"><semantics id="A1.Ex7Xb.2.1.1.m1.4a"><mrow id="A1.Ex7Xb.2.1.1.m1.4.4" xref="A1.Ex7Xb.2.1.1.m1.4.4.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.4.4.4" xref="A1.Ex7Xb.2.1.1.m1.4.4.4.cmml"></mi><mo id="A1.Ex7Xb.2.1.1.m1.4.4.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.cmml"><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.cmml"><mstyle displaystyle="true" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.cmml"><msub id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3a" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.cmml"><mrow id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.2.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml"><msub id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2a" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.cmml"><msub id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.2.cmml">y</mi><mn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.3.cmml">2</mn></msub><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml">⁢</mo><msub id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.2.cmml">p</mi><mi id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.3.cmml">θ</mi></msub><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2a" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.2.cmml">y</mi><mn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><msub id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2.cmml">,</mo><mi id="A1.Ex7Xb.2.1.1.m1.1.1" xref="A1.Ex7Xb.2.1.1.m1.1.1.cmml">x</mi></mrow></mrow><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2b" lspace="0em" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.1" rspace="0em" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.1.cmml">d</mo><msub id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.2" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.2.cmml">y</mi><mn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.3.cmml">2</mn></msub></mrow></mrow></mrow><mo id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.3" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.2.1.cmml">]</mo></mrow><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><msub id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.2.cmml">y</mi><mn id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.3.cmml">1</mn></msub><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3a" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><msub id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.2.cmml">p</mi><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.3.cmml">θ</mi></msub><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3b" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.2" stretchy="false" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.cmml">(</mo><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.cmml"><msub id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.2.cmml">y</mi><mn id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.1" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.1.cmml">|</mo><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.3.cmml">x</mi></mrow><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.3" stretchy="false" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.cmml">)</mo></mrow><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3c" lspace="0em" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.1" rspace="0em" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.1.cmml">d</mo><msub id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.2.cmml">y</mi><mn id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.3.cmml">1</mn></msub></mrow></mrow></mrow><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.3.cmml">−</mo><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2.4" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.cmml"><msubsup id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.cmml"><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.2.cmml">μ</mi><mi id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.3.cmml">θ</mi><mn id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.3" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.3.cmml">2</mn></msubsup><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.1" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.1.cmml">⁢</mo><mrow id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.3.2" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.cmml"><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.3.2.1" stretchy="false" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.cmml">(</mo><mi id="A1.Ex7Xb.2.1.1.m1.2.2" xref="A1.Ex7Xb.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.3.2.2" stretchy="false" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Ex7Xb.2.1.1.m1.4b"><apply id="A1.Ex7Xb.2.1.1.m1.4.4.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4"><eq id="A1.Ex7Xb.2.1.1.m1.4.4.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A1.Ex7Xb.2.1.1.m1.4.4.4.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.4">absent</csymbol><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2"><minus id="A1.Ex7Xb.2.1.1.m1.4.4.2.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.3"></minus><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2"><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3">subscript</csymbol><int id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.2"></int><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.3.3">𝒴</ci></apply><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2"><times id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.3"></times><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.2.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1"><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2">subscript</csymbol><int id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.2"></int><ci id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.2.3">𝒴</ci></apply><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1"><times id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.2"></times><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.2">𝑦</ci><cn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.3.3">2</cn></apply><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.2">𝑝</ci><ci id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.4.3">𝜃</ci></apply><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.2">conditional</csymbol><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.2">𝑦</ci><cn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.3.3">2</cn></apply><list id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1"><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.3">1</cn></apply><ci id="A1.Ex7Xb.2.1.1.m1.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.1.1">𝑥</ci></list></apply><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5"><csymbol cd="latexml" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.1">differential-d</csymbol><apply id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.2">𝑦</ci><cn id="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.3.3.1.1.1.1.1.1.1.5.2.3">2</cn></apply></apply></apply></apply></apply><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.2">𝑦</ci><cn id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.4.3">1</cn></apply><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.2">𝑝</ci><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.5.3">𝜃</ci></apply><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1"><csymbol cd="latexml" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.1">conditional</csymbol><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.2">𝑦</ci><cn id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.2.3">1</cn></apply><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.2.1.1.3">𝑥</ci></apply><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6"><csymbol cd="latexml" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.1">differential-d</csymbol><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.2">𝑦</ci><cn id="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.2.2.6.2.3">1</cn></apply></apply></apply></apply><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4"><times id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.1"></times><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2">superscript</csymbol><apply id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2"><csymbol cd="ambiguous" id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.1.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2">subscript</csymbol><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.2">𝜇</ci><ci id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.3.cmml" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.2.3">𝜃</ci></apply><cn id="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.3.cmml" type="integer" xref="A1.Ex7Xb.2.1.1.m1.4.4.2.4.2.3">2</cn></apply><ci id="A1.Ex7Xb.2.1.1.m1.2.2.cmml" xref="A1.Ex7Xb.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7Xb.2.1.1.m1.4c">\displaystyle=\int_{\mathcal{Y}}\left[\int_{\mathcal{Y}}\!y_{2}p_{\theta}(y_{2% }|y_{1},x)\mathrm{d}y_{2}\right]y_{1}p_{\theta}(y_{1}|x)\mathrm{d}y_{1}-\mu_{% \theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7Xb.2.1.1.m1.4d">= ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT [ ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_x ) roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ] italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.Ex7Xb.4.1.1.1">Eq. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.E8" title="Equation 8 ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">8</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.Ex7Xb.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> <tbody id="A1.Ex7Xc"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}}\mathbb{E}_{\theta}[Y_{2}|y_{1},x]y_{1}p_{% \theta}(y_{1}|x)\mathrm{d}y_{1}-\mu_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="A1.Ex7Xc.2.1.1.m1.4"><semantics id="A1.Ex7Xc.2.1.1.m1.4a"><mrow id="A1.Ex7Xc.2.1.1.m1.4.4" xref="A1.Ex7Xc.2.1.1.m1.4.4.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.4.4.4" xref="A1.Ex7Xc.2.1.1.m1.4.4.4.cmml"></mi><mo id="A1.Ex7Xc.2.1.1.m1.4.4.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.cmml"><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.cmml"><mstyle displaystyle="true" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.cmml"><msub id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3a" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.cmml"><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.cmml"><msub id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.2.cmml">𝔼</mi><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.3.cmml">θ</mi></msub><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.2.cmml"><mo id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.2" stretchy="false" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><msub id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml">Y</mi><mn id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><msub id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml">,</mo><mi id="A1.Ex7Xc.2.1.1.m1.1.1" xref="A1.Ex7Xc.2.1.1.m1.1.1.cmml">x</mi></mrow></mrow><mo id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.3" stretchy="false" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.2.1.cmml">]</mo></mrow><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3a" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><msub id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.2.cmml">y</mi><mn id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.3.cmml">1</mn></msub><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3b" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><msub id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.2.cmml">p</mi><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.3.cmml">θ</mi></msub><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3c" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.cmml"><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.2" stretchy="false" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.cmml">(</mo><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.cmml"><msub id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.2.cmml">y</mi><mn id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.1" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.1.cmml">|</mo><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.3.cmml">x</mi></mrow><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.3" stretchy="false" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.cmml">)</mo></mrow><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3d" lspace="0em" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3.cmml">⁢</mo><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.cmml"><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.1" rspace="0em" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.1.cmml">d</mo><msub id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.2.cmml">y</mi><mn id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.3.cmml">1</mn></msub></mrow></mrow></mrow><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.3.cmml">−</mo><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2.4" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.cmml"><msubsup id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.cmml"><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.2.cmml">μ</mi><mi id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.3.cmml">θ</mi><mn id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.3" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.3.cmml">2</mn></msubsup><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.1" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.1.cmml">⁢</mo><mrow id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.3.2" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.cmml"><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.3.2.1" stretchy="false" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.cmml">(</mo><mi id="A1.Ex7Xc.2.1.1.m1.2.2" xref="A1.Ex7Xc.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.3.2.2" stretchy="false" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Ex7Xc.2.1.1.m1.4b"><apply id="A1.Ex7Xc.2.1.1.m1.4.4.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4"><eq id="A1.Ex7Xc.2.1.1.m1.4.4.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A1.Ex7Xc.2.1.1.m1.4.4.4.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.4">absent</csymbol><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2"><minus id="A1.Ex7Xc.2.1.1.m1.4.4.2.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.3"></minus><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2"><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3">subscript</csymbol><int id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.2"></int><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.3.3">𝒴</ci></apply><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2"><times id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.3"></times><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.2">𝔼</ci><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.4.3">𝜃</ci></apply><apply id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.2.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2">conditional</csymbol><apply id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2">𝑌</ci><cn id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3">2</cn></apply><list id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><apply id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.Ex7Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">1</cn></apply><ci id="A1.Ex7Xc.2.1.1.m1.1.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.1.1">𝑥</ci></list></apply></apply><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.2">𝑦</ci><cn id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.3.cmml" type="integer" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.5.3">1</cn></apply><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.2">𝑝</ci><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.6.3">𝜃</ci></apply><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1"><csymbol cd="latexml" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.1">conditional</csymbol><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.2">𝑦</ci><cn id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.3.cmml" type="integer" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.2.3">1</cn></apply><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.2.1.1.3">𝑥</ci></apply><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7"><csymbol cd="latexml" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.1">differential-d</csymbol><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.2">𝑦</ci><cn id="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.3.cmml" type="integer" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.2.2.7.2.3">1</cn></apply></apply></apply></apply><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4"><times id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.1"></times><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2">superscript</csymbol><apply id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2"><csymbol cd="ambiguous" id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.1.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2">subscript</csymbol><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.2">𝜇</ci><ci id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.3.cmml" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.2.3">𝜃</ci></apply><cn id="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.3.cmml" type="integer" xref="A1.Ex7Xc.2.1.1.m1.4.4.2.4.2.3">2</cn></apply><ci id="A1.Ex7Xc.2.1.1.m1.2.2.cmml" xref="A1.Ex7Xc.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7Xc.2.1.1.m1.4c">\displaystyle=\int_{\mathcal{Y}}\mathbb{E}_{\theta}[Y_{2}|y_{1},x]y_{1}p_{% \theta}(y_{1}|x)\mathrm{d}y_{1}-\mu_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7Xc.2.1.1.m1.4d">= ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT blackboard_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_x ] italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x ) roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.Ex7Xc.4.1.1.1">def. of </span><math alttext="\mathbb{E}" class="ltx_markedasmath" display="inline" id="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1"><semantics id="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1a"><mi id="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1.1" xref="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1.1.cmml">𝔼</mi><annotation-xml encoding="MathML-Content" id="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1b"><ci id="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1.1.cmml" xref="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1.1">𝔼</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1c">\mathbb{E}</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7.m1.3.3.3.1.1.1.1.m1.mf.1d">blackboard_E</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> <tbody id="A1.Ex7Xd"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\simeq\frac{1}{M}\sum_{m=1}^{M}y_{m}\mu_{\theta}(x|y_{m})-\mu_{% \theta}^{2}(x),\;y_{m}\sim p_{\theta}(y|x)" class="ltx_Math" display="inline" id="A1.Ex7Xd.2.1.1.m1.3"><semantics id="A1.Ex7Xd.2.1.1.m1.3a"><mrow id="A1.Ex7Xd.2.1.1.m1.3.3.2" xref="A1.Ex7Xd.2.1.1.m1.3.3.3.cmml"><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.3.cmml"></mi><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.2.cmml">≃</mo><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.cmml"><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.cmml"><mfrac id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3a" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.cmml"><mn id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.2.cmml">1</mn><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.3.cmml">M</mi></mfrac></mstyle><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><munderover id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2a" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.2" movablelimits="false" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.cmml">∑</mo><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.2.cmml">m</mi><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.1.cmml">=</mo><mn id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.3.cmml">1</mn></mrow><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml">M</mi></munderover></mstyle><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.cmml"><msub id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.2.cmml">y</mi><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.3.cmml">m</mi></msub><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml">⁢</mo><msub id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.cmml">μ</mi><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.3.cmml">θ</mi></msub><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.2a" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml">x</mi><mo fence="false" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><msub id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml">y</mi><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml">m</mi></msub></mrow><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.2.cmml">−</mo><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.cmml"><msubsup id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.2.cmml">μ</mi><mi id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.3.cmml">θ</mi><mn id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.3" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.3.cmml">2</mn></msubsup><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.1" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.3.2" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.cmml"><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.3.2.1" stretchy="false" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.cmml">(</mo><mi id="A1.Ex7Xd.2.1.1.m1.1.1" xref="A1.Ex7Xd.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.3.2.2" stretchy="false" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.cmml">)</mo></mrow></mrow></mrow></mrow><mo id="A1.Ex7Xd.2.1.1.m1.3.3.2.3" rspace="0.447em" xref="A1.Ex7Xd.2.1.1.m1.3.3.3a.cmml">,</mo><mrow id="A1.Ex7Xd.2.1.1.m1.3.3.2.2" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.cmml"><msub id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.2" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.2.cmml">y</mi><mi id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.3" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.3.cmml">m</mi></msub><mo id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.2" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.2.cmml">∼</mo><mrow id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.cmml"><msub id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.2" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.2.cmml">p</mi><mi id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.3" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.3.cmml">θ</mi></msub><mo id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.2" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.2.cmml">⁢</mo><mrow id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.cmml"><mo id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.2" stretchy="false" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.cmml">(</mo><mrow id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.cmml"><mi id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.2" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.2.cmml">y</mi><mo fence="false" id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.1" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.3" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.3" stretchy="false" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Ex7Xd.2.1.1.m1.3b"><apply id="A1.Ex7Xd.2.1.1.m1.3.3.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.3.3.3a.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.3">formulae-sequence</csymbol><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1"><csymbol cd="latexml" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.2">similar-to-or-equals</csymbol><csymbol cd="latexml" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.3">absent</csymbol><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1"><minus id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.2"></minus><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1"><times id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.2"></times><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3"><divide id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3"></divide><cn id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.2.cmml" type="integer" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.2">1</cn><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.3.3">𝑀</ci></apply><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1"><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2">superscript</csymbol><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2">subscript</csymbol><sum id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.2"></sum><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3"><eq id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.1"></eq><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.2">𝑚</ci><cn id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.3.cmml" type="integer" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.3">1</cn></apply></apply><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.2.3">𝑀</ci></apply><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1"><times id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.2"></times><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.2">𝑦</ci><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.3.3">𝑚</ci></apply><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4">subscript</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.2">𝜇</ci><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.4.3">𝜃</ci></apply><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2">𝑥</ci><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.2">𝑦</ci><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3.3">𝑚</ci></apply></apply></apply></apply></apply><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3"><times id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.1"></times><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2">superscript</csymbol><apply id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2">subscript</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.2">𝜇</ci><ci id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.2.3">𝜃</ci></apply><cn id="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.3.cmml" type="integer" xref="A1.Ex7Xd.2.1.1.m1.2.2.1.1.1.3.2.3">2</cn></apply><ci id="A1.Ex7Xd.2.1.1.m1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply><apply id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2"><csymbol cd="latexml" id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.2">similar-to</csymbol><apply id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3">subscript</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.2">𝑦</ci><ci id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.3.3">𝑚</ci></apply><apply id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1"><times id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.2"></times><apply id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3"><csymbol cd="ambiguous" id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3">subscript</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.2">𝑝</ci><ci id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.3.3">𝜃</ci></apply><apply id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1"><csymbol cd="latexml" id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.1.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.1">conditional</csymbol><ci id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.2.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.2">𝑦</ci><ci id="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.3.cmml" xref="A1.Ex7Xd.2.1.1.m1.3.3.2.2.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Ex7Xd.2.1.1.m1.3c">\displaystyle\simeq\frac{1}{M}\sum_{m=1}^{M}y_{m}\mu_{\theta}(x|y_{m})-\mu_{% \theta}^{2}(x),\;y_{m}\sim p_{\theta}(y|x)</annotation><annotation encoding="application/x-llamapun" id="A1.Ex7Xd.2.1.1.m1.3d">≃ divide start_ARG 1 end_ARG start_ARG italic_M end_ARG ∑ start_POSTSUBSCRIPT italic_m = 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT italic_M end_POSTSUPERSCRIPT italic_y start_POSTSUBSCRIPT italic_m end_POSTSUBSCRIPT italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x | italic_y start_POSTSUBSCRIPT italic_m end_POSTSUBSCRIPT ) - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) , italic_y start_POSTSUBSCRIPT italic_m end_POSTSUBSCRIPT ∼ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y | italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.Ex7Xd.4.1.1.1">Monte Carlo</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr></tbody> </table> <p class="ltx_p" id="A1.8.p1.1">∎</p> </div> </div> <div class="ltx_proof" id="A1.9"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S3.Thmtheorem3" title="Proposition 3.3. ‣ 3.3 Connection to (Johnson et al., 2024) ‣ 3 Related Work ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">3.3</span></a>).</h6> <div class="ltx_para" id="A1.9.p1"> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E34"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\int_{\mathcal{Y}\times\mathcal{Y}}\Sigma^{\theta}_{y_{1},y_{2}}(% X)y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_Math" display="inline" id="A1.E34X.2.1.1.m1.3"><semantics id="A1.E34X.2.1.1.m1.3a"><mrow id="A1.E34X.2.1.1.m1.3.4" xref="A1.E34X.2.1.1.m1.3.4.cmml"><mstyle displaystyle="true" id="A1.E34X.2.1.1.m1.3.4.1" xref="A1.E34X.2.1.1.m1.3.4.1.cmml"><msub id="A1.E34X.2.1.1.m1.3.4.1a" xref="A1.E34X.2.1.1.m1.3.4.1.cmml"><mo id="A1.E34X.2.1.1.m1.3.4.1.2" xref="A1.E34X.2.1.1.m1.3.4.1.2.cmml">∫</mo><mrow id="A1.E34X.2.1.1.m1.3.4.1.3" xref="A1.E34X.2.1.1.m1.3.4.1.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E34X.2.1.1.m1.3.4.1.3.2" xref="A1.E34X.2.1.1.m1.3.4.1.3.2.cmml">𝒴</mi><mo id="A1.E34X.2.1.1.m1.3.4.1.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E34X.2.1.1.m1.3.4.1.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E34X.2.1.1.m1.3.4.1.3.3" xref="A1.E34X.2.1.1.m1.3.4.1.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E34X.2.1.1.m1.3.4.2" xref="A1.E34X.2.1.1.m1.3.4.2.cmml"><msubsup id="A1.E34X.2.1.1.m1.3.4.2.2" xref="A1.E34X.2.1.1.m1.3.4.2.2.cmml"><mi id="A1.E34X.2.1.1.m1.3.4.2.2.2.2" mathvariant="normal" xref="A1.E34X.2.1.1.m1.3.4.2.2.2.2.cmml">Σ</mi><mrow id="A1.E34X.2.1.1.m1.2.2.2.2" xref="A1.E34X.2.1.1.m1.2.2.2.3.cmml"><msub id="A1.E34X.2.1.1.m1.1.1.1.1.1" xref="A1.E34X.2.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.E34X.2.1.1.m1.1.1.1.1.1.2" xref="A1.E34X.2.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.E34X.2.1.1.m1.1.1.1.1.1.3" xref="A1.E34X.2.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E34X.2.1.1.m1.2.2.2.2.3" xref="A1.E34X.2.1.1.m1.2.2.2.3.cmml">,</mo><msub id="A1.E34X.2.1.1.m1.2.2.2.2.2" xref="A1.E34X.2.1.1.m1.2.2.2.2.2.cmml"><mi id="A1.E34X.2.1.1.m1.2.2.2.2.2.2" xref="A1.E34X.2.1.1.m1.2.2.2.2.2.2.cmml">y</mi><mn id="A1.E34X.2.1.1.m1.2.2.2.2.2.3" xref="A1.E34X.2.1.1.m1.2.2.2.2.2.3.cmml">2</mn></msub></mrow><mi id="A1.E34X.2.1.1.m1.3.4.2.2.2.3" xref="A1.E34X.2.1.1.m1.3.4.2.2.2.3.cmml">θ</mi></msubsup><mo id="A1.E34X.2.1.1.m1.3.4.2.1" xref="A1.E34X.2.1.1.m1.3.4.2.1.cmml">⁢</mo><mrow id="A1.E34X.2.1.1.m1.3.4.2.3.2" xref="A1.E34X.2.1.1.m1.3.4.2.cmml"><mo id="A1.E34X.2.1.1.m1.3.4.2.3.2.1" stretchy="false" xref="A1.E34X.2.1.1.m1.3.4.2.cmml">(</mo><mi id="A1.E34X.2.1.1.m1.3.3" xref="A1.E34X.2.1.1.m1.3.3.cmml">X</mi><mo id="A1.E34X.2.1.1.m1.3.4.2.3.2.2" stretchy="false" xref="A1.E34X.2.1.1.m1.3.4.2.cmml">)</mo></mrow><mo id="A1.E34X.2.1.1.m1.3.4.2.1a" xref="A1.E34X.2.1.1.m1.3.4.2.1.cmml">⁢</mo><msub id="A1.E34X.2.1.1.m1.3.4.2.4" xref="A1.E34X.2.1.1.m1.3.4.2.4.cmml"><mi id="A1.E34X.2.1.1.m1.3.4.2.4.2" xref="A1.E34X.2.1.1.m1.3.4.2.4.2.cmml">y</mi><mn id="A1.E34X.2.1.1.m1.3.4.2.4.3" xref="A1.E34X.2.1.1.m1.3.4.2.4.3.cmml">1</mn></msub><mo id="A1.E34X.2.1.1.m1.3.4.2.1b" xref="A1.E34X.2.1.1.m1.3.4.2.1.cmml">⁢</mo><msub id="A1.E34X.2.1.1.m1.3.4.2.5" xref="A1.E34X.2.1.1.m1.3.4.2.5.cmml"><mi id="A1.E34X.2.1.1.m1.3.4.2.5.2" xref="A1.E34X.2.1.1.m1.3.4.2.5.2.cmml">y</mi><mn id="A1.E34X.2.1.1.m1.3.4.2.5.3" xref="A1.E34X.2.1.1.m1.3.4.2.5.3.cmml">2</mn></msub><mo id="A1.E34X.2.1.1.m1.3.4.2.1c" lspace="0em" xref="A1.E34X.2.1.1.m1.3.4.2.1.cmml">⁢</mo><mrow id="A1.E34X.2.1.1.m1.3.4.2.6" xref="A1.E34X.2.1.1.m1.3.4.2.6.cmml"><mo id="A1.E34X.2.1.1.m1.3.4.2.6.1" rspace="0em" xref="A1.E34X.2.1.1.m1.3.4.2.6.1.cmml">d</mo><msub id="A1.E34X.2.1.1.m1.3.4.2.6.2" xref="A1.E34X.2.1.1.m1.3.4.2.6.2.cmml"><mi id="A1.E34X.2.1.1.m1.3.4.2.6.2.2" xref="A1.E34X.2.1.1.m1.3.4.2.6.2.2.cmml">y</mi><mn id="A1.E34X.2.1.1.m1.3.4.2.6.2.3" xref="A1.E34X.2.1.1.m1.3.4.2.6.2.3.cmml">1</mn></msub></mrow><mo id="A1.E34X.2.1.1.m1.3.4.2.1d" lspace="0em" xref="A1.E34X.2.1.1.m1.3.4.2.1.cmml">⁢</mo><mrow id="A1.E34X.2.1.1.m1.3.4.2.7" xref="A1.E34X.2.1.1.m1.3.4.2.7.cmml"><mo id="A1.E34X.2.1.1.m1.3.4.2.7.1" rspace="0em" xref="A1.E34X.2.1.1.m1.3.4.2.7.1.cmml">d</mo><msub id="A1.E34X.2.1.1.m1.3.4.2.7.2" xref="A1.E34X.2.1.1.m1.3.4.2.7.2.cmml"><mi id="A1.E34X.2.1.1.m1.3.4.2.7.2.2" xref="A1.E34X.2.1.1.m1.3.4.2.7.2.2.cmml">y</mi><mn id="A1.E34X.2.1.1.m1.3.4.2.7.2.3" xref="A1.E34X.2.1.1.m1.3.4.2.7.2.3.cmml">2</mn></msub></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34X.2.1.1.m1.3b"><apply id="A1.E34X.2.1.1.m1.3.4.cmml" xref="A1.E34X.2.1.1.m1.3.4"><apply id="A1.E34X.2.1.1.m1.3.4.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.1"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.3.4.1.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.1">subscript</csymbol><int id="A1.E34X.2.1.1.m1.3.4.1.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.1.2"></int><apply id="A1.E34X.2.1.1.m1.3.4.1.3.cmml" xref="A1.E34X.2.1.1.m1.3.4.1.3"><times id="A1.E34X.2.1.1.m1.3.4.1.3.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.1.3.1"></times><ci id="A1.E34X.2.1.1.m1.3.4.1.3.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.1.3.2">𝒴</ci><ci id="A1.E34X.2.1.1.m1.3.4.1.3.3.cmml" xref="A1.E34X.2.1.1.m1.3.4.1.3.3">𝒴</ci></apply></apply><apply id="A1.E34X.2.1.1.m1.3.4.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2"><times id="A1.E34X.2.1.1.m1.3.4.2.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.1"></times><apply id="A1.E34X.2.1.1.m1.3.4.2.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.2"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.3.4.2.2.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.2">subscript</csymbol><apply id="A1.E34X.2.1.1.m1.3.4.2.2.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.2"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.3.4.2.2.2.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.2">superscript</csymbol><ci id="A1.E34X.2.1.1.m1.3.4.2.2.2.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.2.2.2">Σ</ci><ci id="A1.E34X.2.1.1.m1.3.4.2.2.2.3.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.2.2.3">𝜃</ci></apply><list id="A1.E34X.2.1.1.m1.2.2.2.3.cmml" xref="A1.E34X.2.1.1.m1.2.2.2.2"><apply id="A1.E34X.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E34X.2.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E34X.2.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="A1.E34X.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E34X.2.1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="A1.E34X.2.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E34X.2.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="A1.E34X.2.1.1.m1.2.2.2.2.2.cmml" xref="A1.E34X.2.1.1.m1.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.2.2.2.2.2.1.cmml" xref="A1.E34X.2.1.1.m1.2.2.2.2.2">subscript</csymbol><ci id="A1.E34X.2.1.1.m1.2.2.2.2.2.2.cmml" xref="A1.E34X.2.1.1.m1.2.2.2.2.2.2">𝑦</ci><cn id="A1.E34X.2.1.1.m1.2.2.2.2.2.3.cmml" type="integer" xref="A1.E34X.2.1.1.m1.2.2.2.2.2.3">2</cn></apply></list></apply><ci id="A1.E34X.2.1.1.m1.3.3.cmml" xref="A1.E34X.2.1.1.m1.3.3">𝑋</ci><apply id="A1.E34X.2.1.1.m1.3.4.2.4.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.4"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.3.4.2.4.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.4">subscript</csymbol><ci id="A1.E34X.2.1.1.m1.3.4.2.4.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.4.2">𝑦</ci><cn id="A1.E34X.2.1.1.m1.3.4.2.4.3.cmml" type="integer" xref="A1.E34X.2.1.1.m1.3.4.2.4.3">1</cn></apply><apply id="A1.E34X.2.1.1.m1.3.4.2.5.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.5"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.3.4.2.5.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.5">subscript</csymbol><ci id="A1.E34X.2.1.1.m1.3.4.2.5.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.5.2">𝑦</ci><cn id="A1.E34X.2.1.1.m1.3.4.2.5.3.cmml" type="integer" xref="A1.E34X.2.1.1.m1.3.4.2.5.3">2</cn></apply><apply id="A1.E34X.2.1.1.m1.3.4.2.6.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.6"><csymbol cd="latexml" id="A1.E34X.2.1.1.m1.3.4.2.6.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.6.1">differential-d</csymbol><apply id="A1.E34X.2.1.1.m1.3.4.2.6.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.6.2"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.3.4.2.6.2.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.6.2">subscript</csymbol><ci id="A1.E34X.2.1.1.m1.3.4.2.6.2.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.6.2.2">𝑦</ci><cn id="A1.E34X.2.1.1.m1.3.4.2.6.2.3.cmml" type="integer" xref="A1.E34X.2.1.1.m1.3.4.2.6.2.3">1</cn></apply></apply><apply id="A1.E34X.2.1.1.m1.3.4.2.7.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.7"><csymbol cd="latexml" id="A1.E34X.2.1.1.m1.3.4.2.7.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.7.1">differential-d</csymbol><apply id="A1.E34X.2.1.1.m1.3.4.2.7.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.7.2"><csymbol cd="ambiguous" id="A1.E34X.2.1.1.m1.3.4.2.7.2.1.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.7.2">subscript</csymbol><ci id="A1.E34X.2.1.1.m1.3.4.2.7.2.2.cmml" xref="A1.E34X.2.1.1.m1.3.4.2.7.2.2">𝑦</ci><cn id="A1.E34X.2.1.1.m1.3.4.2.7.2.3.cmml" type="integer" xref="A1.E34X.2.1.1.m1.3.4.2.7.2.3">2</cn></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34X.2.1.1.m1.3c">\displaystyle\int_{\mathcal{Y}\times\mathcal{Y}}\Sigma^{\theta}_{y_{1},y_{2}}(% X)y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E34X.2.1.1.m1.3d">∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT roman_Σ start_POSTSUPERSCRIPT italic_θ end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT end_POSTSUBSCRIPT ( italic_X ) italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}\mathbb{C}[p(y_{1}|X),p(y_{2}% |X)|[x]]y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_Math" display="inline" id="A1.E34X.3.2.2.m1.3"><semantics id="A1.E34X.3.2.2.m1.3a"><mrow id="A1.E34X.3.2.2.m1.3.3" xref="A1.E34X.3.2.2.m1.3.3.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.4" xref="A1.E34X.3.2.2.m1.3.3.4.cmml"></mi><mo id="A1.E34X.3.2.2.m1.3.3.3" xref="A1.E34X.3.2.2.m1.3.3.3.cmml">=</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2" xref="A1.E34X.3.2.2.m1.3.3.2.cmml"><mstyle displaystyle="true" id="A1.E34X.3.2.2.m1.3.3.2.3" xref="A1.E34X.3.2.2.m1.3.3.2.3.cmml"><msub id="A1.E34X.3.2.2.m1.3.3.2.3a" xref="A1.E34X.3.2.2.m1.3.3.2.3.cmml"><mo id="A1.E34X.3.2.2.m1.3.3.2.3.2" xref="A1.E34X.3.2.2.m1.3.3.2.3.2.cmml">∫</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.3.3" xref="A1.E34X.3.2.2.m1.3.3.2.3.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E34X.3.2.2.m1.3.3.2.3.3.2" xref="A1.E34X.3.2.2.m1.3.3.2.3.3.2.cmml">𝒴</mi><mo id="A1.E34X.3.2.2.m1.3.3.2.3.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E34X.3.2.2.m1.3.3.2.3.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E34X.3.2.2.m1.3.3.2.3.3.3" xref="A1.E34X.3.2.2.m1.3.3.2.3.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E34X.3.2.2.m1.3.3.2.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.2.2.4" xref="A1.E34X.3.2.2.m1.3.3.2.2.4.cmml">ℂ</mi><mo id="A1.E34X.3.2.2.m1.3.3.2.2.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.2.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.3.cmml"><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.3" stretchy="false" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.3.cmml">[</mo><mrow id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.cmml"><mi id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.3" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.3.cmml">p</mi><mo id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.2" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.2" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.3" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.4" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.3.cmml">,</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.cmml"><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.3.cmml">p</mi><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.2.cmml">⁢</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.cmml"><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.2" stretchy="false" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.cmml">(</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.cmml"><msub id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.1" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.3" stretchy="false" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.2.cmml">|</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.1.cmml"><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.2.1" stretchy="false" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.1.1.cmml">[</mo><mi id="A1.E34X.3.2.2.m1.1.1" xref="A1.E34X.3.2.2.m1.1.1.cmml">x</mi><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.2.2" stretchy="false" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.5" stretchy="false" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.3.cmml">]</mo></mrow><mo id="A1.E34X.3.2.2.m1.3.3.2.2.3a" xref="A1.E34X.3.2.2.m1.3.3.2.2.3.cmml">⁢</mo><msub id="A1.E34X.3.2.2.m1.3.3.2.2.5" xref="A1.E34X.3.2.2.m1.3.3.2.2.5.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.2.2.5.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.5.2.cmml">y</mi><mn id="A1.E34X.3.2.2.m1.3.3.2.2.5.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.5.3.cmml">1</mn></msub><mo id="A1.E34X.3.2.2.m1.3.3.2.2.3b" xref="A1.E34X.3.2.2.m1.3.3.2.2.3.cmml">⁢</mo><msub id="A1.E34X.3.2.2.m1.3.3.2.2.6" xref="A1.E34X.3.2.2.m1.3.3.2.2.6.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.2.2.6.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.6.2.cmml">y</mi><mn id="A1.E34X.3.2.2.m1.3.3.2.2.6.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.6.3.cmml">2</mn></msub><mo id="A1.E34X.3.2.2.m1.3.3.2.2.3c" lspace="0em" xref="A1.E34X.3.2.2.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.7" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.cmml"><mo id="A1.E34X.3.2.2.m1.3.3.2.2.7.1" rspace="0em" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.1.cmml">d</mo><msub id="A1.E34X.3.2.2.m1.3.3.2.2.7.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.2.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.2.2.7.2.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.2.2.cmml">y</mi><mn id="A1.E34X.3.2.2.m1.3.3.2.2.7.2.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.2.3.cmml">1</mn></msub></mrow><mo id="A1.E34X.3.2.2.m1.3.3.2.2.3d" lspace="0em" xref="A1.E34X.3.2.2.m1.3.3.2.2.3.cmml">⁢</mo><mrow id="A1.E34X.3.2.2.m1.3.3.2.2.8" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.cmml"><mo id="A1.E34X.3.2.2.m1.3.3.2.2.8.1" rspace="0em" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.1.cmml">d</mo><msub id="A1.E34X.3.2.2.m1.3.3.2.2.8.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.2.cmml"><mi id="A1.E34X.3.2.2.m1.3.3.2.2.8.2.2" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.2.2.cmml">y</mi><mn id="A1.E34X.3.2.2.m1.3.3.2.2.8.2.3" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.2.3.cmml">2</mn></msub></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34X.3.2.2.m1.3b"><apply id="A1.E34X.3.2.2.m1.3.3.cmml" xref="A1.E34X.3.2.2.m1.3.3"><eq id="A1.E34X.3.2.2.m1.3.3.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.3"></eq><csymbol cd="latexml" id="A1.E34X.3.2.2.m1.3.3.4.cmml" xref="A1.E34X.3.2.2.m1.3.3.4">absent</csymbol><apply id="A1.E34X.3.2.2.m1.3.3.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2"><apply id="A1.E34X.3.2.2.m1.3.3.2.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.3"><csymbol cd="ambiguous" id="A1.E34X.3.2.2.m1.3.3.2.3.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.3">subscript</csymbol><int id="A1.E34X.3.2.2.m1.3.3.2.3.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.3.2"></int><apply id="A1.E34X.3.2.2.m1.3.3.2.3.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.3.3"><times id="A1.E34X.3.2.2.m1.3.3.2.3.3.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.3.3.1"></times><ci id="A1.E34X.3.2.2.m1.3.3.2.3.3.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.3.3.2">𝒴</ci><ci id="A1.E34X.3.2.2.m1.3.3.2.3.3.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.3.3.3">𝒴</ci></apply></apply><apply id="A1.E34X.3.2.2.m1.3.3.2.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2"><times id="A1.E34X.3.2.2.m1.3.3.2.2.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.3"></times><ci id="A1.E34X.3.2.2.m1.3.3.2.2.4.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.4">ℂ</ci><interval closure="closed" id="A1.E34X.3.2.2.m1.3.3.2.2.2.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2"><apply id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1"><times id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.2"></times><ci id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.3">𝑝</ci><apply id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E34X.3.2.2.m1.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2"><csymbol cd="latexml" id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.2">conditional</csymbol><apply id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1"><times id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.2"></times><ci id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.3">𝑝</ci><apply id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1"><csymbol cd="latexml" id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.1">conditional</csymbol><apply id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2">subscript</csymbol><ci id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.2">𝑦</ci><cn id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.2.3">2</cn></apply><ci id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.3.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.1.1.1.1.3">𝑋</ci></apply></apply><apply id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.2"><csymbol cd="latexml" id="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.1.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.2.2.2.3.2.1">delimited-[]</csymbol><ci id="A1.E34X.3.2.2.m1.1.1.cmml" xref="A1.E34X.3.2.2.m1.1.1">𝑥</ci></apply></apply></interval><apply id="A1.E34X.3.2.2.m1.3.3.2.2.5.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.5"><csymbol cd="ambiguous" id="A1.E34X.3.2.2.m1.3.3.2.2.5.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.5">subscript</csymbol><ci id="A1.E34X.3.2.2.m1.3.3.2.2.5.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.5.2">𝑦</ci><cn id="A1.E34X.3.2.2.m1.3.3.2.2.5.3.cmml" type="integer" xref="A1.E34X.3.2.2.m1.3.3.2.2.5.3">1</cn></apply><apply id="A1.E34X.3.2.2.m1.3.3.2.2.6.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.6"><csymbol cd="ambiguous" id="A1.E34X.3.2.2.m1.3.3.2.2.6.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.6">subscript</csymbol><ci id="A1.E34X.3.2.2.m1.3.3.2.2.6.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.6.2">𝑦</ci><cn id="A1.E34X.3.2.2.m1.3.3.2.2.6.3.cmml" type="integer" xref="A1.E34X.3.2.2.m1.3.3.2.2.6.3">2</cn></apply><apply id="A1.E34X.3.2.2.m1.3.3.2.2.7.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.7"><csymbol cd="latexml" id="A1.E34X.3.2.2.m1.3.3.2.2.7.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.1">differential-d</csymbol><apply id="A1.E34X.3.2.2.m1.3.3.2.2.7.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.2"><csymbol cd="ambiguous" id="A1.E34X.3.2.2.m1.3.3.2.2.7.2.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.2">subscript</csymbol><ci id="A1.E34X.3.2.2.m1.3.3.2.2.7.2.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.2.2">𝑦</ci><cn id="A1.E34X.3.2.2.m1.3.3.2.2.7.2.3.cmml" type="integer" xref="A1.E34X.3.2.2.m1.3.3.2.2.7.2.3">1</cn></apply></apply><apply id="A1.E34X.3.2.2.m1.3.3.2.2.8.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.8"><csymbol cd="latexml" id="A1.E34X.3.2.2.m1.3.3.2.2.8.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.1">differential-d</csymbol><apply id="A1.E34X.3.2.2.m1.3.3.2.2.8.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.2"><csymbol cd="ambiguous" id="A1.E34X.3.2.2.m1.3.3.2.2.8.2.1.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.2">subscript</csymbol><ci id="A1.E34X.3.2.2.m1.3.3.2.2.8.2.2.cmml" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.2.2">𝑦</ci><cn id="A1.E34X.3.2.2.m1.3.3.2.2.8.2.3.cmml" type="integer" xref="A1.E34X.3.2.2.m1.3.3.2.2.8.2.3">2</cn></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34X.3.2.2.m1.3c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}\mathbb{C}[p(y_{1}|X),p(y_{2}% |X)|[x]]y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E34X.3.2.2.m1.3d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT blackboard_C [ italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) , italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ) | [ italic_x ] ] italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="9"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(34)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}\mathbb{E}[p(y_{1}|X)p(y_{2}|% X)|[x]]y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}+" class="ltx_Math" display="inline" id="A1.E34Xa.2.1.1.m1.2"><semantics id="A1.E34Xa.2.1.1.m1.2a"><mrow id="A1.E34Xa.2.1.1.m1.2.2" xref="A1.E34Xa.2.1.1.m1.2.2.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.3" xref="A1.E34Xa.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E34Xa.2.1.1.m1.2.2.2" xref="A1.E34Xa.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.cmml"><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.cmml"><mstyle displaystyle="true" id="A1.E34Xa.2.1.1.m1.2.2.1.1.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.cmml"><msub id="A1.E34Xa.2.1.1.m1.2.2.1.1.2a" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.cmml"><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.2.cmml">∫</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.2.cmml">𝒴</mi><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.2.cmml"><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.cmml"><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.4" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.4.cmml">p</mi><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3a" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3.cmml">⁢</mo><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.5" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.5.cmml">p</mi><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3b" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml"><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml"><msub id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2.cmml">y</mi><mn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml">|</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.cmml"><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.1" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.1.cmml">[</mo><mi id="A1.E34Xa.2.1.1.m1.1.1" xref="A1.E34Xa.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.2" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.2.1.cmml">]</mo></mrow><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2a" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2.cmml">⁢</mo><msub id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.2.cmml">y</mi><mn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.3.cmml">1</mn></msub><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2b" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2.cmml">⁢</mo><msub id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.2.cmml">y</mi><mn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.3.cmml">2</mn></msub><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2c" lspace="0em" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.cmml"><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.1" rspace="0em" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.1.cmml">d</mo><msub id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.2.cmml">y</mi><mn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.3.cmml">1</mn></msub></mrow><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2d" lspace="0em" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.cmml"><mo id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.1" rspace="0em" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.1.cmml">d</mo><msub id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.cmml"><mi id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.2" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.2.cmml">y</mi><mn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.3.cmml">2</mn></msub></mrow></mrow></mrow><mo id="A1.E34Xa.2.1.1.m1.2.2.1.3" xref="A1.E34Xa.2.1.1.m1.2.2.1.3.cmml">+</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xa.2.1.1.m1.2b"><apply id="A1.E34Xa.2.1.1.m1.2.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2"><eq id="A1.E34Xa.2.1.1.m1.2.2.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1">limit-from</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1"><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2">subscript</csymbol><int id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.2"></int><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3"><times id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.1"></times><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.2">𝒴</ci><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.2.3.3">𝒴</ci></apply></apply><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1"><times id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.2"></times><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.3">𝔼</ci><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.2.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.3">conditional</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2"><times id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.3"></times><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.4.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.4">𝑝</ci><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.5.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.5">𝑝</ci><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2">subscript</csymbol><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.2">𝑦</ci><cn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3.cmml" type="integer" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.2.3">2</cn></apply><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.2.2.1.1.3">𝑋</ci></apply></apply><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="A1.E34Xa.2.1.1.m1.1.1.cmml" xref="A1.E34Xa.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4"><csymbol cd="ambiguous" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4">subscript</csymbol><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.2">𝑦</ci><cn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.3.cmml" type="integer" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.4.3">1</cn></apply><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5"><csymbol cd="ambiguous" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5">subscript</csymbol><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.2">𝑦</ci><cn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.3.cmml" type="integer" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.5.3">2</cn></apply><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.1">differential-d</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2"><csymbol cd="ambiguous" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2">subscript</csymbol><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.2">𝑦</ci><cn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.3.cmml" type="integer" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.6.2.3">1</cn></apply></apply><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7"><csymbol cd="latexml" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.1">differential-d</csymbol><apply id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2"><csymbol cd="ambiguous" id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.1.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2">subscript</csymbol><ci id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.2.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.2">𝑦</ci><cn id="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.3.cmml" type="integer" xref="A1.E34Xa.2.1.1.m1.2.2.1.1.1.7.2.3">2</cn></apply></apply></apply></apply><plus id="A1.E34Xa.2.1.1.m1.2.2.1.3.cmml" xref="A1.E34Xa.2.1.1.m1.2.2.1.3"></plus></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xa.2.1.1.m1.2c">\displaystyle=\int_{\mathcal{Y}\times\mathcal{Y}}\mathbb{E}[p(y_{1}|X)p(y_{2}|% X)|[x]]y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}+</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xa.2.1.1.m1.2d">= ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT blackboard_E [ italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ) | [ italic_x ] ] italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT +</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E34Xa.4.1.1.1">def. of </span><math alttext="\mathbb{C}" class="ltx_markedasmath" display="inline" id="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">ℂ</mi><annotation-xml encoding="MathML-Content" id="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1.1">ℂ</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{C}</annotation><annotation encoding="application/x-llamapun" id="A1.E34.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_C</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\quad-\int_{\mathcal{Y}\times\mathcal{Y}}\mathbb{E}[p(y_{1}|X)|[x% ]]\mathbb{E}[p(y_{2}|X|[x]])y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}" class="ltx_math_unparsed" display="inline" id="A1.E34Xb.2.1.1.m1.3"><semantics id="A1.E34Xb.2.1.1.m1.3a"><mrow id="A1.E34Xb.2.1.1.m1.3b"><mo id="A1.E34Xb.2.1.1.m1.3.4">−</mo><mstyle displaystyle="true" id="A1.E34Xb.2.1.1.m1.3.5"><msub id="A1.E34Xb.2.1.1.m1.3.5a"><mo id="A1.E34Xb.2.1.1.m1.3.5.2">∫</mo><mrow id="A1.E34Xb.2.1.1.m1.3.5.3"><mi class="ltx_font_mathcaligraphic" id="A1.E34Xb.2.1.1.m1.3.5.3.2">𝒴</mi><mo id="A1.E34Xb.2.1.1.m1.3.5.3.1" lspace="0.222em" rspace="0.222em">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E34Xb.2.1.1.m1.3.5.3.3">𝒴</mi></mrow></msub></mstyle><mi id="A1.E34Xb.2.1.1.m1.3.6">𝔼</mi><mrow id="A1.E34Xb.2.1.1.m1.3.7"><mo id="A1.E34Xb.2.1.1.m1.3.7.1" stretchy="false">[</mo><mi id="A1.E34Xb.2.1.1.m1.3.7.2">p</mi><mrow id="A1.E34Xb.2.1.1.m1.3.7.3"><mo id="A1.E34Xb.2.1.1.m1.3.7.3.1" stretchy="false">(</mo><msub id="A1.E34Xb.2.1.1.m1.3.7.3.2"><mi id="A1.E34Xb.2.1.1.m1.3.7.3.2.2">y</mi><mn id="A1.E34Xb.2.1.1.m1.3.7.3.2.3">1</mn></msub><mo fence="false" id="A1.E34Xb.2.1.1.m1.3.7.3.3" rspace="0.167em" stretchy="false">|</mo><mi id="A1.E34Xb.2.1.1.m1.3.7.3.4">X</mi><mo id="A1.E34Xb.2.1.1.m1.3.7.3.5" stretchy="false">)</mo></mrow><mo fence="false" id="A1.E34Xb.2.1.1.m1.3.7.4" rspace="0.167em" stretchy="false">|</mo><mrow id="A1.E34Xb.2.1.1.m1.3.7.5"><mo id="A1.E34Xb.2.1.1.m1.3.7.5.1" stretchy="false">[</mo><mi id="A1.E34Xb.2.1.1.m1.1.1">x</mi><mo id="A1.E34Xb.2.1.1.m1.3.7.5.2" stretchy="false">]</mo></mrow><mo id="A1.E34Xb.2.1.1.m1.3.7.6" stretchy="false">]</mo></mrow><mi id="A1.E34Xb.2.1.1.m1.3.8">𝔼</mi><mrow id="A1.E34Xb.2.1.1.m1.3.9"><mo id="A1.E34Xb.2.1.1.m1.3.9.1" stretchy="false">[</mo><mi id="A1.E34Xb.2.1.1.m1.3.9.2">p</mi><mrow id="A1.E34Xb.2.1.1.m1.3.9.3"><mo id="A1.E34Xb.2.1.1.m1.3.9.3.1" stretchy="false">(</mo><msub id="A1.E34Xb.2.1.1.m1.3.9.3.2"><mi id="A1.E34Xb.2.1.1.m1.3.9.3.2.2">y</mi><mn id="A1.E34Xb.2.1.1.m1.3.9.3.2.3">2</mn></msub><mo fence="false" id="A1.E34Xb.2.1.1.m1.3.9.3.3" rspace="0.167em" stretchy="false">|</mo><mi id="A1.E34Xb.2.1.1.m1.3.3">X</mi><mo fence="false" id="A1.E34Xb.2.1.1.m1.3.9.3.4" rspace="0.167em" stretchy="false">|</mo><mrow id="A1.E34Xb.2.1.1.m1.3.9.3.5"><mo id="A1.E34Xb.2.1.1.m1.3.9.3.5.1" stretchy="false">[</mo><mi id="A1.E34Xb.2.1.1.m1.2.2">x</mi><mo id="A1.E34Xb.2.1.1.m1.3.9.3.5.2" stretchy="false">]</mo></mrow><mo id="A1.E34Xb.2.1.1.m1.3.9.3.6" stretchy="false">]</mo></mrow><mo id="A1.E34Xb.2.1.1.m1.3.9.4" stretchy="false">)</mo></mrow><msub id="A1.E34Xb.2.1.1.m1.3.10"><mi id="A1.E34Xb.2.1.1.m1.3.10.2">y</mi><mn id="A1.E34Xb.2.1.1.m1.3.10.3">1</mn></msub><msub id="A1.E34Xb.2.1.1.m1.3.11"><mi id="A1.E34Xb.2.1.1.m1.3.11.2">y</mi><mn id="A1.E34Xb.2.1.1.m1.3.11.3">2</mn></msub><mi id="A1.E34Xb.2.1.1.m1.3.12" mathvariant="normal">d</mi><msub id="A1.E34Xb.2.1.1.m1.3.13"><mi id="A1.E34Xb.2.1.1.m1.3.13.2">y</mi><mn id="A1.E34Xb.2.1.1.m1.3.13.3">1</mn></msub><mi id="A1.E34Xb.2.1.1.m1.3.14" mathvariant="normal">d</mi><msub id="A1.E34Xb.2.1.1.m1.3.15"><mi id="A1.E34Xb.2.1.1.m1.3.15.2">y</mi><mn id="A1.E34Xb.2.1.1.m1.3.15.3">2</mn></msub></mrow><annotation encoding="application/x-tex" id="A1.E34Xb.2.1.1.m1.3c">\displaystyle\quad-\int_{\mathcal{Y}\times\mathcal{Y}}\mathbb{E}[p(y_{1}|X)|[x% ]]\mathbb{E}[p(y_{2}|X|[x]])y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xb.2.1.1.m1.3d">- ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT blackboard_E [ italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) | [ italic_x ] ] blackboard_E [ italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X | [ italic_x ] ] ) italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}\left[\int_{\mathcal{Y}\times\mathcal{Y}}p(y_{1}|X)p(y% _{2}|X)y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}\bigg{|}[x]\right]+" class="ltx_Math" display="inline" id="A1.E34Xc.2.1.1.m1.2"><semantics id="A1.E34Xc.2.1.1.m1.2a"><mrow id="A1.E34Xc.2.1.1.m1.2.2" xref="A1.E34Xc.2.1.1.m1.2.2.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.3" xref="A1.E34Xc.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E34Xc.2.1.1.m1.2.2.2" xref="A1.E34Xc.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.cmml"><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.2.cmml"><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml"><mstyle displaystyle="true" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml"><msub id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3a" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml"><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.2.cmml">∫</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.cmml"><mi class="ltx_font_mathcaligraphic" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.2.cmml">𝒴</mi><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.1" lspace="0.222em" rspace="0.222em" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.1.cmml">×</mo><mi class="ltx_font_mathcaligraphic" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.3.cmml">𝒴</mi></mrow></msub></mstyle><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.4" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.4.cmml">p</mi><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">⁢</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3a" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">⁢</mo><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.5" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.5.cmml">p</mi><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3b" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">⁢</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.cmml"><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.2" stretchy="false" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.cmml">(</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.cmml"><msub id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.2.cmml">y</mi><mn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.1" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.1.cmml">|</mo><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.3" stretchy="false" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.cmml">)</mo></mrow><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3c" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">⁢</mo><msub id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.2.cmml">y</mi><mn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.3.cmml">1</mn></msub><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3d" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">⁢</mo><msub id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.2.cmml">y</mi><mn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.3.cmml">2</mn></msub><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3e" lspace="0em" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">⁢</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.cmml"><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.1" rspace="0em" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.1.cmml">d</mo><msub id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.2.cmml">y</mi><mn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.3.cmml">1</mn></msub></mrow><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3f" lspace="0em" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml">⁢</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.cmml"><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.1" rspace="0em" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.1.cmml">d</mo><msub id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.cmml"><mi id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.2.cmml">y</mi><mn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.3.cmml">2</mn></msub></mrow></mrow></mrow><mo fence="false" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.3" mathsize="210%" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml">|</mo><mrow id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.2" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.1.cmml"><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.2.1" stretchy="false" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.1.1.cmml">[</mo><mi id="A1.E34Xc.2.1.1.m1.1.1" xref="A1.E34Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.2.2" stretchy="false" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xc.2.1.1.m1.2.2.1.3" xref="A1.E34Xc.2.1.1.m1.2.2.1.3.cmml">+</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xc.2.1.1.m1.2b"><apply id="A1.E34Xc.2.1.1.m1.2.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2"><eq id="A1.E34Xc.2.1.1.m1.2.2.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1">limit-from</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1"><times id="A1.E34Xc.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.2"></times><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.3">𝔼</ci><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.2.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.3">conditional</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2"><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3"><csymbol cd="ambiguous" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3">subscript</csymbol><int id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.2"></int><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3"><times id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.1"></times><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.2">𝒴</ci><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.3.3.3">𝒴</ci></apply></apply><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2"><times id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.3"></times><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.4.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.4">𝑝</ci><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.5.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.5">𝑝</ci><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.1">conditional</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2">subscript</csymbol><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.2">𝑦</ci><cn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.3.cmml" type="integer" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.2.3">2</cn></apply><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.2.1.1.3">𝑋</ci></apply><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6"><csymbol cd="ambiguous" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6">subscript</csymbol><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.2">𝑦</ci><cn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.3.cmml" type="integer" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.6.3">1</cn></apply><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7"><csymbol cd="ambiguous" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7">subscript</csymbol><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.2">𝑦</ci><cn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.3.cmml" type="integer" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.7.3">2</cn></apply><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.1">differential-d</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2"><csymbol cd="ambiguous" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2">subscript</csymbol><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.2">𝑦</ci><cn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.3.cmml" type="integer" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.8.2.3">1</cn></apply></apply><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.1">differential-d</csymbol><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2"><csymbol cd="ambiguous" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2">subscript</csymbol><ci id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.2.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.2">𝑦</ci><cn id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.3.cmml" type="integer" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.2.2.9.2.3">2</cn></apply></apply></apply></apply><apply id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.2"><csymbol cd="latexml" id="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="A1.E34Xc.2.1.1.m1.1.1.cmml" xref="A1.E34Xc.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><plus id="A1.E34Xc.2.1.1.m1.2.2.1.3.cmml" xref="A1.E34Xc.2.1.1.m1.2.2.1.3"></plus></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xc.2.1.1.m1.2c">\displaystyle=\mathbb{E}\left[\int_{\mathcal{Y}\times\mathcal{Y}}p(y_{1}|X)p(y% _{2}|X)y_{1}y_{2}\mathrm{d}y_{1}\mathrm{d}y_{2}\bigg{|}[x]\right]+</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xc.2.1.1.m1.2d">= blackboard_E [ ∫ start_POSTSUBSCRIPT caligraphic_Y × caligraphic_Y end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ) italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | [ italic_x ] ] +</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E34Xc.4.1.1.1">Fubini</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xd"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\quad-\mathbb{E}\left[\int_{\mathcal{Y}}p(y_{1}|X)y_{1}\mathrm{d}% y_{1}\bigg{|}[x]\right]\mathbb{E}\left[\int_{\mathcal{Y}}p(y_{2}|X)y_{2}% \mathrm{d}y_{1}\bigg{|}[x]\right]" class="ltx_Math" display="inline" id="A1.E34Xd.2.1.1.m1.4"><semantics id="A1.E34Xd.2.1.1.m1.4a"><mrow id="A1.E34Xd.2.1.1.m1.4.4" xref="A1.E34Xd.2.1.1.m1.4.4.cmml"><mo id="A1.E34Xd.2.1.1.m1.4.4a" xref="A1.E34Xd.2.1.1.m1.4.4.cmml">−</mo><mrow id="A1.E34Xd.2.1.1.m1.4.4.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.cmml"><mi id="A1.E34Xd.2.1.1.m1.4.4.2.4" xref="A1.E34Xd.2.1.1.m1.4.4.2.4.cmml">𝔼</mi><mo id="A1.E34Xd.2.1.1.m1.4.4.2.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.3.cmml">⁢</mo><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.2.cmml"><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.cmml"><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.cmml"><msub id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2a" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.cmml"><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.3" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><mi id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml">p</mi><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2a" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><msub id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.cmml"><mi id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.2.cmml">y</mi><mn id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.3" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.3.cmml">1</mn></msub><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2b" lspace="0em" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.cmml"><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.1" rspace="0em" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.1.cmml">d</mo><msub id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.cmml"><mi id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.2.cmml">y</mi><mn id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.3" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.3.cmml">1</mn></msub></mrow></mrow></mrow><mo fence="false" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.2" mathsize="210%" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.2.cmml">|</mo><mrow id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.2" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.1.cmml"><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.2.1" stretchy="false" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E34Xd.2.1.1.m1.1.1" xref="A1.E34Xd.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.2.2" stretchy="false" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.3" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.2.1.cmml">]</mo></mrow><mo id="A1.E34Xd.2.1.1.m1.4.4.2.3a" xref="A1.E34Xd.2.1.1.m1.4.4.2.3.cmml">⁢</mo><mi id="A1.E34Xd.2.1.1.m1.4.4.2.5" xref="A1.E34Xd.2.1.1.m1.4.4.2.5.cmml">𝔼</mi><mo id="A1.E34Xd.2.1.1.m1.4.4.2.3b" xref="A1.E34Xd.2.1.1.m1.4.4.2.3.cmml">⁢</mo><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.2.cmml"><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.2.1.cmml">[</mo><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.cmml"><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.cmml"><mstyle displaystyle="true" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.cmml"><msub id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2a" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.cmml"><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.2.cmml">∫</mo><mi class="ltx_font_mathcaligraphic" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.3.cmml">𝒴</mi></msub></mstyle><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.cmml"><mi id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml">p</mi><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml">y</mi><mn id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2a" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><msub id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.cmml"><mi id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.2.cmml">y</mi><mn id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.3.cmml">2</mn></msub><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2b" lspace="0em" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.cmml"><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.1" rspace="0em" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.1.cmml">d</mo><msub id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.cmml"><mi id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.2.cmml">y</mi><mn id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.3.cmml">1</mn></msub></mrow></mrow></mrow><mo fence="false" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.2" mathsize="210%" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.2.cmml">|</mo><mrow id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.2" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.1.cmml"><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.2.1" stretchy="false" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.1.1.cmml">[</mo><mi id="A1.E34Xd.2.1.1.m1.2.2" xref="A1.E34Xd.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.2.2" stretchy="false" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.3" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xd.2.1.1.m1.4b"><apply id="A1.E34Xd.2.1.1.m1.4.4.cmml" xref="A1.E34Xd.2.1.1.m1.4.4"><minus id="A1.E34Xd.2.1.1.m1.4.4.3.cmml" xref="A1.E34Xd.2.1.1.m1.4.4"></minus><apply id="A1.E34Xd.2.1.1.m1.4.4.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2"><times id="A1.E34Xd.2.1.1.m1.4.4.2.3.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.3"></times><ci id="A1.E34Xd.2.1.1.m1.4.4.2.4.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.4">𝔼</ci><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.3.3.1.1.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.2">conditional</csymbol><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1"><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2">subscript</csymbol><int id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.2"></int><ci id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.3.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.2.3">𝒴</ci></apply><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><ci id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3">𝑝</ci><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4">subscript</csymbol><ci id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.2">𝑦</ci><cn id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.3.cmml" type="integer" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.4.3">1</cn></apply><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.1">differential-d</csymbol><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2">subscript</csymbol><ci id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.2">𝑦</ci><cn id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.3.cmml" type="integer" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.1.1.5.2.3">1</cn></apply></apply></apply></apply><apply id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.3.3.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E34Xd.2.1.1.m1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply><ci id="A1.E34Xd.2.1.1.m1.4.4.2.5.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.5">𝔼</ci><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.4.4.2.2.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.2">delimited-[]</csymbol><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.2">conditional</csymbol><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1"><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2">subscript</csymbol><int id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.2"></int><ci id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.3.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.2.3">𝒴</ci></apply><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1"><times id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2"></times><ci id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3">𝑝</ci><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2">𝑦</ci><cn id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4">subscript</csymbol><ci id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.2">𝑦</ci><cn id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.3.cmml" type="integer" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.4.3">2</cn></apply><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.1">differential-d</csymbol><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2"><csymbol cd="ambiguous" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2">subscript</csymbol><ci id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.2">𝑦</ci><cn id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.3.cmml" type="integer" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.1.1.5.2.3">1</cn></apply></apply></apply></apply><apply id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.2"><csymbol cd="latexml" id="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.1.1.cmml" xref="A1.E34Xd.2.1.1.m1.4.4.2.2.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E34Xd.2.1.1.m1.2.2.cmml" xref="A1.E34Xd.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xd.2.1.1.m1.4c">\displaystyle\quad-\mathbb{E}\left[\int_{\mathcal{Y}}p(y_{1}|X)y_{1}\mathrm{d}% y_{1}\bigg{|}[x]\right]\mathbb{E}\left[\int_{\mathcal{Y}}p(y_{2}|X)y_{2}% \mathrm{d}y_{1}\bigg{|}[x]\right]</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xd.2.1.1.m1.4d">- blackboard_E [ ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | [ italic_x ] ] blackboard_E [ ∫ start_POSTSUBSCRIPT caligraphic_Y end_POSTSUBSCRIPT italic_p ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ) italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT roman_d italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xe"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}|X]\mathbb{E}[Y_{2}|X]|[x]]-\mathbb{E% }[\mathbb{E}[Y_{1}|X]|[x]]\mathbb{E}[\mathbb{E}[Y_{2}|X]|[x]]" class="ltx_Math" display="inline" id="A1.E34Xe.2.1.1.m1.6"><semantics id="A1.E34Xe.2.1.1.m1.6a"><mrow id="A1.E34Xe.2.1.1.m1.6.6" xref="A1.E34Xe.2.1.1.m1.6.6.cmml"><mi id="A1.E34Xe.2.1.1.m1.6.6.5" xref="A1.E34Xe.2.1.1.m1.6.6.5.cmml"></mi><mo id="A1.E34Xe.2.1.1.m1.6.6.4" xref="A1.E34Xe.2.1.1.m1.6.6.4.cmml">=</mo><mrow id="A1.E34Xe.2.1.1.m1.6.6.3" xref="A1.E34Xe.2.1.1.m1.6.6.3.cmml"><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.cmml"><mi id="A1.E34Xe.2.1.1.m1.4.4.1.1.3" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.2" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.2.cmml"><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.cmml"><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.cmml"><mi id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.4" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.4.cmml">𝔼</mi><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3a" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml">⁢</mo><mi id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.5" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.5.cmml">𝔼</mi><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3b" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.2.cmml"><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.2.1.cmml">[</mo><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.cmml"><msub id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1.cmml">|</mo><mi id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.3" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.3.cmml">|</mo><mrow id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.2" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.1.cmml"><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.2.1" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.1.1.cmml">[</mo><mi id="A1.E34Xe.2.1.1.m1.1.1" xref="A1.E34Xe.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.2.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.3" stretchy="false" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xe.2.1.1.m1.6.6.3.4" xref="A1.E34Xe.2.1.1.m1.6.6.3.4.cmml">−</mo><mrow id="A1.E34Xe.2.1.1.m1.6.6.3.3" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.cmml"><mi id="A1.E34Xe.2.1.1.m1.6.6.3.3.4" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.4.cmml">𝔼</mi><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.3" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.3.cmml">⁢</mo><mrow id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.2.cmml"><mo id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.2.1.cmml">[</mo><mrow id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.cmml"><mrow id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.cmml"><mi id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.3" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.2" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.2.cmml"><mo id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.2" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.3" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.3" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.2" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.2.cmml">|</mo><mrow id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.2" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.1.cmml"><mo id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.2.1" stretchy="false" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E34Xe.2.1.1.m1.2.2" xref="A1.E34Xe.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.2.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.3" stretchy="false" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.2.1.cmml">]</mo></mrow><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.3a" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.3.cmml">⁢</mo><mi id="A1.E34Xe.2.1.1.m1.6.6.3.3.5" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.5.cmml">𝔼</mi><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.3b" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.3.cmml">⁢</mo><mrow id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.2.cmml"><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.2.1.cmml">[</mo><mrow id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.cmml"><mrow id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.cmml"><mi id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.3" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.2" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.2.cmml"><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.cmml"><msub id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.2" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.2.cmml">|</mo><mrow id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.2" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.1.cmml"><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.2.1" stretchy="false" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.1.1.cmml">[</mo><mi id="A1.E34Xe.2.1.1.m1.3.3" xref="A1.E34Xe.2.1.1.m1.3.3.cmml">x</mi><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.2.2" stretchy="false" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.3" stretchy="false" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xe.2.1.1.m1.6b"><apply id="A1.E34Xe.2.1.1.m1.6.6.cmml" xref="A1.E34Xe.2.1.1.m1.6.6"><eq id="A1.E34Xe.2.1.1.m1.6.6.4.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.4"></eq><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.6.6.5.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.5">absent</csymbol><apply id="A1.E34Xe.2.1.1.m1.6.6.3.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3"><minus id="A1.E34Xe.2.1.1.m1.6.6.3.4.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.4"></minus><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1"><times id="A1.E34Xe.2.1.1.m1.4.4.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.2"></times><ci id="A1.E34Xe.2.1.1.m1.4.4.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.3">𝔼</ci><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.3">conditional</csymbol><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2"><times id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.3"></times><ci id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.4.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.4">𝔼</ci><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply><ci id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.5.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.5">𝔼</ci><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.2">delimited-[]</csymbol><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.1">conditional</csymbol><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2">subscript</csymbol><ci id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.2">𝑌</ci><cn id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3.cmml" type="integer" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.2.3">2</cn></apply><ci id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.2.2.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.2"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.4.4.1.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="A1.E34Xe.2.1.1.m1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3"><times id="A1.E34Xe.2.1.1.m1.6.6.3.3.3.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.3"></times><ci id="A1.E34Xe.2.1.1.m1.6.6.3.3.4.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.4">𝔼</ci><apply id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.2">conditional</csymbol><apply id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1"><times id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.2"></times><ci id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.3">𝔼</ci><apply id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.2"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.5.5.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E34Xe.2.1.1.m1.2.2.cmml" xref="A1.E34Xe.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply><ci id="A1.E34Xe.2.1.1.m1.6.6.3.3.5.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.5">𝔼</ci><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.2.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.2">delimited-[]</csymbol><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.2">conditional</csymbol><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1"><times id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.2"></times><ci id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.3">𝔼</ci><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.2"><csymbol cd="latexml" id="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.1.1.cmml" xref="A1.E34Xe.2.1.1.m1.6.6.3.3.2.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E34Xe.2.1.1.m1.3.3.cmml" xref="A1.E34Xe.2.1.1.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xe.2.1.1.m1.6c">\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}|X]\mathbb{E}[Y_{2}|X]|[x]]-\mathbb{E% }[\mathbb{E}[Y_{1}|X]|[x]]\mathbb{E}[\mathbb{E}[Y_{2}|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xe.2.1.1.m1.6d">= blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] blackboard_E [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] - blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E34Xe.4.1.1.1">def. of </span><math alttext="\mathbb{E}" class="ltx_markedasmath" display="inline" id="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1"><semantics id="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1a"><mi id="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1.1" xref="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1.1.cmml">𝔼</mi><annotation-xml encoding="MathML-Content" id="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1b"><ci id="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1.1">𝔼</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1c">\mathbb{E}</annotation><annotation encoding="application/x-llamapun" id="A1.E34.m1.2.2.2.1.1.1.1.m1.mf.1d">blackboard_E</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xf"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]-\mathbb{E}^{2}[\mathbb{E% }[Y_{1}|X]|[x]]" class="ltx_Math" display="inline" id="A1.E34Xf.2.1.1.m1.4"><semantics id="A1.E34Xf.2.1.1.m1.4a"><mrow id="A1.E34Xf.2.1.1.m1.4.4" xref="A1.E34Xf.2.1.1.m1.4.4.cmml"><mi id="A1.E34Xf.2.1.1.m1.4.4.4" xref="A1.E34Xf.2.1.1.m1.4.4.4.cmml"></mi><mo id="A1.E34Xf.2.1.1.m1.4.4.3" xref="A1.E34Xf.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A1.E34Xf.2.1.1.m1.4.4.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.cmml"><mrow id="A1.E34Xf.2.1.1.m1.3.3.1.1" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.cmml"><mi id="A1.E34Xf.2.1.1.m1.3.3.1.1.3" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.2" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><msup id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml"><mi id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.2" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.3" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.2" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml"><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E34Xf.2.1.1.m1.1.1" xref="A1.E34Xf.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xf.2.1.1.m1.4.4.2.3" xref="A1.E34Xf.2.1.1.m1.4.4.2.3.cmml">−</mo><mrow id="A1.E34Xf.2.1.1.m1.4.4.2.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.cmml"><msup id="A1.E34Xf.2.1.1.m1.4.4.2.2.3" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.3.cmml"><mi id="A1.E34Xf.2.1.1.m1.4.4.2.2.3.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.3.2.cmml">𝔼</mi><mn id="A1.E34Xf.2.1.1.m1.4.4.2.2.3.3" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.3.3.cmml">2</mn></msup><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.2.cmml">⁢</mo><mrow id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.2.cmml"><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.2" stretchy="false" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.2.1.cmml">[</mo><mrow id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.cmml"><mrow id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.cmml"><mi id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.3" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml"><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.2.cmml">|</mo><mrow id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.2" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml"><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.2.1" stretchy="false" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E34Xf.2.1.1.m1.2.2" xref="A1.E34Xf.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.2.2" stretchy="false" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.3" stretchy="false" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xf.2.1.1.m1.4b"><apply id="A1.E34Xf.2.1.1.m1.4.4.cmml" xref="A1.E34Xf.2.1.1.m1.4.4"><eq id="A1.E34Xf.2.1.1.m1.4.4.3.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.4.4.4.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.4">absent</csymbol><apply id="A1.E34Xf.2.1.1.m1.4.4.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2"><minus id="A1.E34Xf.2.1.1.m1.4.4.2.3.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.3"></minus><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1"><times id="A1.E34Xf.2.1.1.m1.3.3.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.2"></times><ci id="A1.E34Xf.2.1.1.m1.3.3.1.1.3.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3">superscript</csymbol><ci id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.2">𝔼</ci><cn id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.3.3">2</cn></apply><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.3.3.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E34Xf.2.1.1.m1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2"><times id="A1.E34Xf.2.1.1.m1.4.4.2.2.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.2"></times><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.3.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.3"><csymbol cd="ambiguous" id="A1.E34Xf.2.1.1.m1.4.4.2.2.3.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.3">superscript</csymbol><ci id="A1.E34Xf.2.1.1.m1.4.4.2.2.3.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.3.2">𝔼</ci><cn id="A1.E34Xf.2.1.1.m1.4.4.2.2.3.3.cmml" type="integer" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.3.3">2</cn></apply><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.2.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.2">conditional</csymbol><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1"><times id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.2"></times><ci id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.3">𝔼</ci><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.2"><csymbol cd="latexml" id="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.1.1.cmml" xref="A1.E34Xf.2.1.1.m1.4.4.2.2.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E34Xf.2.1.1.m1.2.2.cmml" xref="A1.E34Xf.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xf.2.1.1.m1.4c">\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y_{1}|X]|[x]]-\mathbb{E}^{2}[\mathbb{E% }[Y_{1}|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xf.2.1.1.m1.4d">= blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ] - blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle Y_{1}|X\text{and $Y_{2}|X$ are iid}" class="ltx_Math" display="inline" id="A1.E34Xf.4.1.1.m1.1"><semantics id="A1.E34Xf.4.1.1.m1.1a"><mrow id="A1.E34Xf.4.1.1.m1.1.1" xref="A1.E34Xf.4.1.1.m1.1.1.cmml"><msub id="A1.E34Xf.4.1.1.m1.1.1.2" xref="A1.E34Xf.4.1.1.m1.1.1.2.cmml"><mi id="A1.E34Xf.4.1.1.m1.1.1.2.2" xref="A1.E34Xf.4.1.1.m1.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xf.4.1.1.m1.1.1.2.3" xref="A1.E34Xf.4.1.1.m1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xf.4.1.1.m1.1.1.1" xref="A1.E34Xf.4.1.1.m1.1.1.1.cmml">|</mo><mrow id="A1.E34Xf.4.1.1.m1.1.1.3" xref="A1.E34Xf.4.1.1.m1.1.1.3.cmml"><mi id="A1.E34Xf.4.1.1.m1.1.1.3.2" xref="A1.E34Xf.4.1.1.m1.1.1.3.2.cmml">X</mi><mo id="A1.E34Xf.4.1.1.m1.1.1.3.1" xref="A1.E34Xf.4.1.1.m1.1.1.3.1.cmml">⁢</mo><mrow id="A1.E34.m1.3.3.3.1.1.1.1a" xref="A1.E34.m1.3.3.3.1.1.1.1ac.cmml"><mtext id="A1.E34.m1.3.3.3.1.1.1.1aa" xref="A1.E34.m1.3.3.3.1.1.1.1ac.cmml">and </mtext><mrow id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.cmml"><msub id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.cmml"><mi id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.2" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.2.cmml">Y</mi><mn id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.3" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.1" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.1.cmml">|</mo><mi id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.3" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.3.cmml">X</mi></mrow><mtext id="A1.E34.m1.3.3.3.1.1.1.1ab" xref="A1.E34.m1.3.3.3.1.1.1.1ac.cmml"> are iid</mtext></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xf.4.1.1.m1.1b"><apply id="A1.E34Xf.4.1.1.m1.1.1.cmml" xref="A1.E34Xf.4.1.1.m1.1.1"><csymbol cd="latexml" id="A1.E34Xf.4.1.1.m1.1.1.1.cmml" xref="A1.E34Xf.4.1.1.m1.1.1.1">conditional</csymbol><apply id="A1.E34Xf.4.1.1.m1.1.1.2.cmml" xref="A1.E34Xf.4.1.1.m1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xf.4.1.1.m1.1.1.2.1.cmml" xref="A1.E34Xf.4.1.1.m1.1.1.2">subscript</csymbol><ci id="A1.E34Xf.4.1.1.m1.1.1.2.2.cmml" xref="A1.E34Xf.4.1.1.m1.1.1.2.2">𝑌</ci><cn id="A1.E34Xf.4.1.1.m1.1.1.2.3.cmml" type="integer" xref="A1.E34Xf.4.1.1.m1.1.1.2.3">1</cn></apply><apply id="A1.E34Xf.4.1.1.m1.1.1.3.cmml" xref="A1.E34Xf.4.1.1.m1.1.1.3"><times id="A1.E34Xf.4.1.1.m1.1.1.3.1.cmml" xref="A1.E34Xf.4.1.1.m1.1.1.3.1"></times><ci id="A1.E34Xf.4.1.1.m1.1.1.3.2.cmml" xref="A1.E34Xf.4.1.1.m1.1.1.3.2">𝑋</ci><ci id="A1.E34.m1.3.3.3.1.1.1.1ac.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1a"><mrow id="A1.E34.m1.3.3.3.1.1.1.1a.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1a"><mtext id="A1.E34.m1.3.3.3.1.1.1.1aa.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1a">and </mtext><mrow id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1"><msub id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2"><mi id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.2.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.2">Y</mi><mn id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.3.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.2.3">2</mn></msub><mo fence="false" id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.1.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.1">|</mo><mi id="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.3.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1.m1.mf.1.1.3">X</mi></mrow><mtext id="A1.E34.m1.3.3.3.1.1.1.1ab.cmml" xref="A1.E34.m1.3.3.3.1.1.1.1a"> are iid</mtext></mrow></ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xf.4.1.1.m1.1c">\displaystyle Y_{1}|X\text{and $Y_{2}|X$ are iid}</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xf.4.1.1.m1.1d">italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X and italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X are iid</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xg"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{V}[\mathbb{E}[Y_{1}|X]|[x]]" class="ltx_Math" display="inline" id="A1.E34Xg.2.1.1.m1.2"><semantics id="A1.E34Xg.2.1.1.m1.2a"><mrow id="A1.E34Xg.2.1.1.m1.2.2" xref="A1.E34Xg.2.1.1.m1.2.2.cmml"><mi id="A1.E34Xg.2.1.1.m1.2.2.3" xref="A1.E34Xg.2.1.1.m1.2.2.3.cmml"></mi><mo id="A1.E34Xg.2.1.1.m1.2.2.2" xref="A1.E34Xg.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A1.E34Xg.2.1.1.m1.2.2.1" xref="A1.E34Xg.2.1.1.m1.2.2.1.cmml"><mi id="A1.E34Xg.2.1.1.m1.2.2.1.3" xref="A1.E34Xg.2.1.1.m1.2.2.1.3.cmml">𝕍</mi><mo id="A1.E34Xg.2.1.1.m1.2.2.1.2" xref="A1.E34Xg.2.1.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="A1.E34Xg.2.1.1.m1.2.2.1.1.1" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.2.cmml"><mo id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.2" stretchy="false" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.cmml"><mrow id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mi id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml"><mo id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><msub id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.2.cmml">|</mo><mrow id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.2" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.1.cmml"><mo id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.2.1" stretchy="false" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E34Xg.2.1.1.m1.1.1" xref="A1.E34Xg.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.2.2" stretchy="false" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.3" stretchy="false" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xg.2.1.1.m1.2b"><apply id="A1.E34Xg.2.1.1.m1.2.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2"><eq id="A1.E34Xg.2.1.1.m1.2.2.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A1.E34Xg.2.1.1.m1.2.2.3.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.3">absent</csymbol><apply id="A1.E34Xg.2.1.1.m1.2.2.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1"><times id="A1.E34Xg.2.1.1.m1.2.2.1.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.2"></times><ci id="A1.E34Xg.2.1.1.m1.2.2.1.3.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.3">𝕍</ci><apply id="A1.E34Xg.2.1.1.m1.2.2.1.1.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="A1.E34Xg.2.1.1.m1.2.2.1.1.2.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.2">conditional</csymbol><apply id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1"><times id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.2"></times><ci id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.3">𝔼</ci><apply id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.1.1.cmml" xref="A1.E34Xg.2.1.1.m1.2.2.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E34Xg.2.1.1.m1.1.1.cmml" xref="A1.E34Xg.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xg.2.1.1.m1.2c">\displaystyle=\mathbb{V}[\mathbb{E}[Y_{1}|X]|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xg.2.1.1.m1.2d">= blackboard_V [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E34Xg.4.1.1.1">def. of </span><math alttext="\mathbb{V}" class="ltx_markedasmath" display="inline" id="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1"><semantics id="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1a"><mi id="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1.1" xref="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1.1.cmml">𝕍</mi><annotation-xml encoding="MathML-Content" id="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1b"><ci id="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1.1">𝕍</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1c">\mathbb{V}</annotation><annotation encoding="application/x-llamapun" id="A1.E34.m1.4.4.4.1.1.1.1.m1.mf.1d">blackboard_V</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E34Xh"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]=\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="A1.E34Xh.2.1.1.m1.3"><semantics id="A1.E34Xh.2.1.1.m1.3a"><mrow id="A1.E34Xh.2.1.1.m1.3.3" xref="A1.E34Xh.2.1.1.m1.3.3.cmml"><mi id="A1.E34Xh.2.1.1.m1.3.3.4" xref="A1.E34Xh.2.1.1.m1.3.3.4.cmml"></mi><mo id="A1.E34Xh.2.1.1.m1.3.3.5" xref="A1.E34Xh.2.1.1.m1.3.3.5.cmml">=</mo><mrow id="A1.E34Xh.2.1.1.m1.3.3.2" xref="A1.E34Xh.2.1.1.m1.3.3.2.cmml"><msub id="A1.E34Xh.2.1.1.m1.3.3.2.4" xref="A1.E34Xh.2.1.1.m1.3.3.2.4.cmml"><mi id="A1.E34Xh.2.1.1.m1.3.3.2.4.2" xref="A1.E34Xh.2.1.1.m1.3.3.2.4.2.cmml">ℂ</mi><mi id="A1.E34Xh.2.1.1.m1.3.3.2.4.3" xref="A1.E34Xh.2.1.1.m1.3.3.2.4.3.cmml">θ</mi></msub><mo id="A1.E34Xh.2.1.1.m1.3.3.2.3" xref="A1.E34Xh.2.1.1.m1.3.3.2.3.cmml">⁢</mo><mrow id="A1.E34Xh.2.1.1.m1.3.3.2.2.2" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.3.cmml"><mo id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.3" stretchy="false" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.3.cmml">[</mo><msub id="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1" xref="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.cmml"><mi id="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.2" xref="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.2.cmml">Y</mi><mn id="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.3" xref="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.4" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.3.cmml">,</mo><mrow id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.cmml"><msub id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.cmml"><mi id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.2" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.2.cmml">Y</mi><mn id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.3" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.1" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.1.cmml">|</mo><mi id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.3" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.5" stretchy="false" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.3.cmml">]</mo></mrow></mrow><mo id="A1.E34Xh.2.1.1.m1.3.3.6" xref="A1.E34Xh.2.1.1.m1.3.3.6.cmml">=</mo><mrow id="A1.E34Xh.2.1.1.m1.3.3.7" xref="A1.E34Xh.2.1.1.m1.3.3.7.cmml"><msub id="A1.E34Xh.2.1.1.m1.3.3.7.2" xref="A1.E34Xh.2.1.1.m1.3.3.7.2.cmml"><mi id="A1.E34Xh.2.1.1.m1.3.3.7.2.2" xref="A1.E34Xh.2.1.1.m1.3.3.7.2.2.cmml">cov</mi><mi id="A1.E34Xh.2.1.1.m1.3.3.7.2.3" xref="A1.E34Xh.2.1.1.m1.3.3.7.2.3.cmml">θ</mi></msub><mo id="A1.E34Xh.2.1.1.m1.3.3.7.1" xref="A1.E34Xh.2.1.1.m1.3.3.7.1.cmml">⁢</mo><mrow id="A1.E34Xh.2.1.1.m1.3.3.7.3.2" xref="A1.E34Xh.2.1.1.m1.3.3.7.cmml"><mo id="A1.E34Xh.2.1.1.m1.3.3.7.3.2.1" stretchy="false" xref="A1.E34Xh.2.1.1.m1.3.3.7.cmml">(</mo><mi id="A1.E34Xh.2.1.1.m1.1.1" xref="A1.E34Xh.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E34Xh.2.1.1.m1.3.3.7.3.2.2" stretchy="false" xref="A1.E34Xh.2.1.1.m1.3.3.7.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E34Xh.2.1.1.m1.3b"><apply id="A1.E34Xh.2.1.1.m1.3.3.cmml" xref="A1.E34Xh.2.1.1.m1.3.3"><and id="A1.E34Xh.2.1.1.m1.3.3a.cmml" xref="A1.E34Xh.2.1.1.m1.3.3"></and><apply id="A1.E34Xh.2.1.1.m1.3.3b.cmml" xref="A1.E34Xh.2.1.1.m1.3.3"><eq id="A1.E34Xh.2.1.1.m1.3.3.5.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.5"></eq><csymbol cd="latexml" id="A1.E34Xh.2.1.1.m1.3.3.4.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.4">absent</csymbol><apply id="A1.E34Xh.2.1.1.m1.3.3.2.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2"><times id="A1.E34Xh.2.1.1.m1.3.3.2.3.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.3"></times><apply id="A1.E34Xh.2.1.1.m1.3.3.2.4.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.4"><csymbol cd="ambiguous" id="A1.E34Xh.2.1.1.m1.3.3.2.4.1.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.4">subscript</csymbol><ci id="A1.E34Xh.2.1.1.m1.3.3.2.4.2.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.4.2">ℂ</ci><ci id="A1.E34Xh.2.1.1.m1.3.3.2.4.3.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.4.3">𝜃</ci></apply><interval closure="closed" id="A1.E34Xh.2.1.1.m1.3.3.2.2.3.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2"><apply id="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="ambiguous" id="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1">subscript</csymbol><ci id="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.2">𝑌</ci><cn id="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.3.cmml" type="integer" xref="A1.E34Xh.2.1.1.m1.2.2.1.1.1.1.3">1</cn></apply><apply id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2"><csymbol cd="latexml" id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.1.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.1">conditional</csymbol><apply id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.1.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2">subscript</csymbol><ci id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.2.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.2">𝑌</ci><cn id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.3.cmml" type="integer" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.2.3">2</cn></apply><ci id="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.3.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.2.2.2.2.3">𝑥</ci></apply></interval></apply></apply><apply id="A1.E34Xh.2.1.1.m1.3.3c.cmml" xref="A1.E34Xh.2.1.1.m1.3.3"><eq id="A1.E34Xh.2.1.1.m1.3.3.6.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.6"></eq><share href="https://arxiv.org/html/2503.13317v1#A1.E34Xh.2.1.1.m1.3.3.2.cmml" id="A1.E34Xh.2.1.1.m1.3.3d.cmml" xref="A1.E34Xh.2.1.1.m1.3.3"></share><apply id="A1.E34Xh.2.1.1.m1.3.3.7.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.7"><times id="A1.E34Xh.2.1.1.m1.3.3.7.1.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.7.1"></times><apply id="A1.E34Xh.2.1.1.m1.3.3.7.2.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.7.2"><csymbol cd="ambiguous" id="A1.E34Xh.2.1.1.m1.3.3.7.2.1.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.7.2">subscript</csymbol><ci id="A1.E34Xh.2.1.1.m1.3.3.7.2.2.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.7.2.2">cov</ci><ci id="A1.E34Xh.2.1.1.m1.3.3.7.2.3.cmml" xref="A1.E34Xh.2.1.1.m1.3.3.7.2.3">𝜃</ci></apply><ci id="A1.E34Xh.2.1.1.m1.1.1.cmml" xref="A1.E34Xh.2.1.1.m1.1.1">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E34Xh.2.1.1.m1.3c">\displaystyle=\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]=\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.E34Xh.2.1.1.m1.3d">= blackboard_C start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ] = roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.9.p1.1">∎</p> </div> </div> <div class="ltx_para" id="A1.p1"> <p class="ltx_p" id="A1.p1.1">Since Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a> relates the model covariance to the grouping loss, i.e. the variance of the averages in the equivalence class <math alttext="[x]" class="ltx_Math" display="inline" id="A1.p1.1.m1.1"><semantics id="A1.p1.1.m1.1a"><mrow id="A1.p1.1.m1.1.2.2" xref="A1.p1.1.m1.1.2.1.cmml"><mo id="A1.p1.1.m1.1.2.2.1" stretchy="false" xref="A1.p1.1.m1.1.2.1.1.cmml">[</mo><mi id="A1.p1.1.m1.1.1" xref="A1.p1.1.m1.1.1.cmml">x</mi><mo id="A1.p1.1.m1.1.2.2.2" stretchy="false" xref="A1.p1.1.m1.1.2.1.1.cmml">]</mo></mrow><annotation-xml encoding="MathML-Content" id="A1.p1.1.m1.1b"><apply id="A1.p1.1.m1.1.2.1.cmml" xref="A1.p1.1.m1.1.2.2"><csymbol cd="latexml" id="A1.p1.1.m1.1.2.1.1.cmml" xref="A1.p1.1.m1.1.2.2.1">delimited-[]</csymbol><ci id="A1.p1.1.m1.1.1.cmml" xref="A1.p1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.p1.1.m1.1c">[x]</annotation><annotation encoding="application/x-llamapun" id="A1.p1.1.m1.1d">[ italic_x ]</annotation></semantics></math>, Chebyshev inequality can be used to get an estimation of the error on the prediction of the mean:</p> </div> <div class="ltx_theorem ltx_theorem_corollary" id="A1.Thmtheorem1"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="A1.Thmtheorem1.1.1.1">Corollary A.1</span></span><span class="ltx_text ltx_font_bold" id="A1.Thmtheorem1.2.2">.</span> </h6> <div class="ltx_para" id="A1.Thmtheorem1.p1"> <p class="ltx_p" id="A1.Thmtheorem1.p1.6"><span class="ltx_text ltx_font_italic" id="A1.Thmtheorem1.p1.6.6">Let <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="A1.Thmtheorem1.p1.1.1.m1.2"><semantics id="A1.Thmtheorem1.p1.1.1.m1.2a"><mrow id="A1.Thmtheorem1.p1.1.1.m1.2.2" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.cmml"><msub id="A1.Thmtheorem1.p1.1.1.m1.2.2.4" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.4.cmml"><mi id="A1.Thmtheorem1.p1.1.1.m1.2.2.4.2" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.4.2.cmml">p</mi><mi id="A1.Thmtheorem1.p1.1.1.m1.2.2.4.3" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="A1.Thmtheorem1.p1.1.1.m1.2.2.3" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.3.cmml">⁢</mo><mrow id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.3.cmml"><mo id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.3" stretchy="false" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.3.cmml">(</mo><msub id="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1" xref="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.2" xref="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.3" xref="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.4" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.3.cmml">,</mo><mrow id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.cmml"><msub id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.cmml"><mi id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.2" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.3" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.1" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.3" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.5" stretchy="false" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Thmtheorem1.p1.1.1.m1.2b"><apply id="A1.Thmtheorem1.p1.1.1.m1.2.2.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2"><times id="A1.Thmtheorem1.p1.1.1.m1.2.2.3.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.3"></times><apply id="A1.Thmtheorem1.p1.1.1.m1.2.2.4.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.4"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.1.1.m1.2.2.4.1.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.4">subscript</csymbol><ci id="A1.Thmtheorem1.p1.1.1.m1.2.2.4.2.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.4.2">𝑝</ci><ci id="A1.Thmtheorem1.p1.1.1.m1.2.2.4.3.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.3.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2"><apply id="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="A1.Thmtheorem1.p1.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.1.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.1.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.2.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.3.cmml" xref="A1.Thmtheorem1.p1.1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Thmtheorem1.p1.1.1.m1.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="A1.Thmtheorem1.p1.1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> be a model calibrated at predicting pairs, with marginal expectation <math alttext="E_{\theta}[Y|x]=\mu_{\theta}(x)" class="ltx_Math" display="inline" id="A1.Thmtheorem1.p1.2.2.m2.2"><semantics id="A1.Thmtheorem1.p1.2.2.m2.2a"><mrow id="A1.Thmtheorem1.p1.2.2.m2.2.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.cmml"><mrow id="A1.Thmtheorem1.p1.2.2.m2.2.2.1" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.cmml"><msub id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.cmml"><mi id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.2.cmml">E</mi><mi id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.3" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.3.cmml">θ</mi></msub><mo id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.2.cmml">⁢</mo><mrow id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.2.cmml"><mo id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.2" stretchy="false" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.cmml"><mi id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.1" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.3" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.3" stretchy="false" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.Thmtheorem1.p1.2.2.m2.2.2.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.2.cmml">=</mo><mrow id="A1.Thmtheorem1.p1.2.2.m2.2.2.3" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.cmml"><msub id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.cmml"><mi id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.2.cmml">μ</mi><mi id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.3" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.3.cmml">θ</mi></msub><mo id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.1" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.1.cmml">⁢</mo><mrow id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.3.2" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.cmml"><mo id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.3.2.1" stretchy="false" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.cmml">(</mo><mi id="A1.Thmtheorem1.p1.2.2.m2.1.1" xref="A1.Thmtheorem1.p1.2.2.m2.1.1.cmml">x</mi><mo id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.3.2.2" stretchy="false" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Thmtheorem1.p1.2.2.m2.2b"><apply id="A1.Thmtheorem1.p1.2.2.m2.2.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2"><eq id="A1.Thmtheorem1.p1.2.2.m2.2.2.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.2"></eq><apply id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1"><times id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.2"></times><apply id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3">subscript</csymbol><ci id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.2">𝐸</ci><ci id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.3.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.3.3">𝜃</ci></apply><apply id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1"><csymbol cd="latexml" id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.2.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.1">conditional</csymbol><ci id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.2">𝑌</ci><ci id="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.3.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.1.1.1.1.3">𝑥</ci></apply></apply></apply><apply id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3"><times id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.1"></times><apply id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2">subscript</csymbol><ci id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.2.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.2">𝜇</ci><ci id="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.3.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.2.2.3.2.3">𝜃</ci></apply><ci id="A1.Thmtheorem1.p1.2.2.m2.1.1.cmml" xref="A1.Thmtheorem1.p1.2.2.m2.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Thmtheorem1.p1.2.2.m2.2c">E_{\theta}[Y|x]=\mu_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.Thmtheorem1.p1.2.2.m2.2d">italic_E start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y | italic_x ] = italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math> and covariance <math alttext="\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]=\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="A1.Thmtheorem1.p1.3.3.m3.3"><semantics id="A1.Thmtheorem1.p1.3.3.m3.3a"><mrow id="A1.Thmtheorem1.p1.3.3.m3.3.3" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.cmml"><mrow id="A1.Thmtheorem1.p1.3.3.m3.3.3.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.cmml"><msub id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.cmml"><mi id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.2.cmml">ℂ</mi><mi id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.3" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.3.cmml">θ</mi></msub><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.3" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.3.cmml">⁢</mo><mrow id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.3.cmml"><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.3" stretchy="false" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.3.cmml">[</mo><msub id="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1" xref="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.cmml"><mi id="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.2" xref="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.2.cmml">Y</mi><mn id="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.3" xref="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.3.cmml">1</mn></msub><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.4" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.3.cmml">,</mo><mrow id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.cmml"><msub id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.cmml"><mi id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.2.cmml">Y</mi><mn id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.3" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.1" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.1.cmml">|</mo><mi id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.3" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.3.cmml">x</mi></mrow><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.5" stretchy="false" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.3.cmml">]</mo></mrow></mrow><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.3" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.3.cmml">=</mo><mrow id="A1.Thmtheorem1.p1.3.3.m3.3.3.4" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.cmml"><msub id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.cmml"><mi id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.2.cmml">cov</mi><mi id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.3" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.3.cmml">θ</mi></msub><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.1" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.1.cmml">⁢</mo><mrow id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.3.2" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.cmml"><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.3.2.1" stretchy="false" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.cmml">(</mo><mi id="A1.Thmtheorem1.p1.3.3.m3.1.1" xref="A1.Thmtheorem1.p1.3.3.m3.1.1.cmml">x</mi><mo id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.3.2.2" stretchy="false" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Thmtheorem1.p1.3.3.m3.3b"><apply id="A1.Thmtheorem1.p1.3.3.m3.3.3.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3"><eq id="A1.Thmtheorem1.p1.3.3.m3.3.3.3.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.3"></eq><apply id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2"><times id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.3.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.3"></times><apply id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4">subscript</csymbol><ci id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.2">ℂ</ci><ci id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.3.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.4.3">𝜃</ci></apply><interval closure="closed" id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.3.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2"><apply id="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1">subscript</csymbol><ci id="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.2">𝑌</ci><cn id="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.3.cmml" type="integer" xref="A1.Thmtheorem1.p1.3.3.m3.2.2.1.1.1.1.3">1</cn></apply><apply id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2"><csymbol cd="latexml" id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.1">conditional</csymbol><apply id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2">subscript</csymbol><ci id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.2">𝑌</ci><cn id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.3.cmml" type="integer" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.2.3">2</cn></apply><ci id="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.3.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4"><times id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.1"></times><apply id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2"><csymbol cd="ambiguous" id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2">subscript</csymbol><ci id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.2.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.2">cov</ci><ci id="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.3.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.3.3.4.2.3">𝜃</ci></apply><ci id="A1.Thmtheorem1.p1.3.3.m3.1.1.cmml" xref="A1.Thmtheorem1.p1.3.3.m3.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Thmtheorem1.p1.3.3.m3.3c">\mathbb{C}_{\theta}[Y_{1},Y_{2}|x]=\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.Thmtheorem1.p1.3.3.m3.3d">blackboard_C start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ] = roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math>. Also, let <math alttext="\mu(x)=\mathbb{E}[Y|x]" class="ltx_Math" display="inline" id="A1.Thmtheorem1.p1.4.4.m4.2"><semantics id="A1.Thmtheorem1.p1.4.4.m4.2a"><mrow id="A1.Thmtheorem1.p1.4.4.m4.2.2" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.cmml"><mrow id="A1.Thmtheorem1.p1.4.4.m4.2.2.3" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.cmml"><mi id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.2" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.2.cmml">μ</mi><mo id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.1" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.1.cmml">⁢</mo><mrow id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.3.2" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.cmml"><mo id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.3.2.1" stretchy="false" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.cmml">(</mo><mi id="A1.Thmtheorem1.p1.4.4.m4.1.1" xref="A1.Thmtheorem1.p1.4.4.m4.1.1.cmml">x</mi><mo id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.3.2.2" stretchy="false" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.cmml">)</mo></mrow></mrow><mo id="A1.Thmtheorem1.p1.4.4.m4.2.2.2" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.2.cmml">=</mo><mrow id="A1.Thmtheorem1.p1.4.4.m4.2.2.1" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.cmml"><mi id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.3" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.3.cmml">𝔼</mi><mo id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.2" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.2.cmml">⁢</mo><mrow id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.2.cmml"><mo id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.2" stretchy="false" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.cmml"><mi id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.2" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.1" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.3" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.3.cmml">x</mi></mrow><mo id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.3" stretchy="false" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.Thmtheorem1.p1.4.4.m4.2b"><apply id="A1.Thmtheorem1.p1.4.4.m4.2.2.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2"><eq id="A1.Thmtheorem1.p1.4.4.m4.2.2.2.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.2"></eq><apply id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3"><times id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.1.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.1"></times><ci id="A1.Thmtheorem1.p1.4.4.m4.2.2.3.2.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.3.2">𝜇</ci><ci id="A1.Thmtheorem1.p1.4.4.m4.1.1.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.1.1">𝑥</ci></apply><apply id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1"><times id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.2.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.2"></times><ci id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.3.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.3">𝔼</ci><apply id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.2.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1"><csymbol cd="latexml" id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.2.1.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.1.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.1">conditional</csymbol><ci id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.2.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.2">𝑌</ci><ci id="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.3.cmml" xref="A1.Thmtheorem1.p1.4.4.m4.2.2.1.1.1.1.3">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Thmtheorem1.p1.4.4.m4.2c">\mu(x)=\mathbb{E}[Y|x]</annotation><annotation encoding="application/x-llamapun" id="A1.Thmtheorem1.p1.4.4.m4.2d">italic_μ ( italic_x ) = blackboard_E [ italic_Y | italic_x ]</annotation></semantics></math> be the mean of the data distribution given <math alttext="X=x" class="ltx_Math" display="inline" id="A1.Thmtheorem1.p1.5.5.m5.1"><semantics id="A1.Thmtheorem1.p1.5.5.m5.1a"><mrow id="A1.Thmtheorem1.p1.5.5.m5.1.1" xref="A1.Thmtheorem1.p1.5.5.m5.1.1.cmml"><mi id="A1.Thmtheorem1.p1.5.5.m5.1.1.2" xref="A1.Thmtheorem1.p1.5.5.m5.1.1.2.cmml">X</mi><mo id="A1.Thmtheorem1.p1.5.5.m5.1.1.1" xref="A1.Thmtheorem1.p1.5.5.m5.1.1.1.cmml">=</mo><mi id="A1.Thmtheorem1.p1.5.5.m5.1.1.3" xref="A1.Thmtheorem1.p1.5.5.m5.1.1.3.cmml">x</mi></mrow><annotation-xml encoding="MathML-Content" id="A1.Thmtheorem1.p1.5.5.m5.1b"><apply id="A1.Thmtheorem1.p1.5.5.m5.1.1.cmml" xref="A1.Thmtheorem1.p1.5.5.m5.1.1"><eq id="A1.Thmtheorem1.p1.5.5.m5.1.1.1.cmml" xref="A1.Thmtheorem1.p1.5.5.m5.1.1.1"></eq><ci id="A1.Thmtheorem1.p1.5.5.m5.1.1.2.cmml" xref="A1.Thmtheorem1.p1.5.5.m5.1.1.2">𝑋</ci><ci id="A1.Thmtheorem1.p1.5.5.m5.1.1.3.cmml" xref="A1.Thmtheorem1.p1.5.5.m5.1.1.3">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Thmtheorem1.p1.5.5.m5.1c">X=x</annotation><annotation encoding="application/x-llamapun" id="A1.Thmtheorem1.p1.5.5.m5.1d">italic_X = italic_x</annotation></semantics></math> and <math alttext="\beta>0" class="ltx_Math" display="inline" id="A1.Thmtheorem1.p1.6.6.m6.1"><semantics id="A1.Thmtheorem1.p1.6.6.m6.1a"><mrow id="A1.Thmtheorem1.p1.6.6.m6.1.1" xref="A1.Thmtheorem1.p1.6.6.m6.1.1.cmml"><mi id="A1.Thmtheorem1.p1.6.6.m6.1.1.2" xref="A1.Thmtheorem1.p1.6.6.m6.1.1.2.cmml">β</mi><mo id="A1.Thmtheorem1.p1.6.6.m6.1.1.1" xref="A1.Thmtheorem1.p1.6.6.m6.1.1.1.cmml">></mo><mn id="A1.Thmtheorem1.p1.6.6.m6.1.1.3" xref="A1.Thmtheorem1.p1.6.6.m6.1.1.3.cmml">0</mn></mrow><annotation-xml encoding="MathML-Content" id="A1.Thmtheorem1.p1.6.6.m6.1b"><apply id="A1.Thmtheorem1.p1.6.6.m6.1.1.cmml" xref="A1.Thmtheorem1.p1.6.6.m6.1.1"><gt id="A1.Thmtheorem1.p1.6.6.m6.1.1.1.cmml" xref="A1.Thmtheorem1.p1.6.6.m6.1.1.1"></gt><ci id="A1.Thmtheorem1.p1.6.6.m6.1.1.2.cmml" xref="A1.Thmtheorem1.p1.6.6.m6.1.1.2">𝛽</ci><cn id="A1.Thmtheorem1.p1.6.6.m6.1.1.3.cmml" type="integer" xref="A1.Thmtheorem1.p1.6.6.m6.1.1.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.Thmtheorem1.p1.6.6.m6.1c">\beta>0</annotation><annotation encoding="application/x-llamapun" id="A1.Thmtheorem1.p1.6.6.m6.1d">italic_β > 0</annotation></semantics></math> any positive real number. Then:</span></p> <table class="ltx_equation ltx_eqn_table" id="A1.E35"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathbb{E}[(\mu(X)-\mu_{\theta}(x))^{2}|[x]]=\mathrm{cov}_{\theta}(x)\;." class="ltx_Math" display="block" id="A1.E35.m1.5"><semantics id="A1.E35.m1.5a"><mrow id="A1.E35.m1.5.5.1" xref="A1.E35.m1.5.5.1.1.cmml"><mrow id="A1.E35.m1.5.5.1.1" xref="A1.E35.m1.5.5.1.1.cmml"><mrow id="A1.E35.m1.5.5.1.1.1" xref="A1.E35.m1.5.5.1.1.1.cmml"><mi id="A1.E35.m1.5.5.1.1.1.3" xref="A1.E35.m1.5.5.1.1.1.3.cmml">𝔼</mi><mo id="A1.E35.m1.5.5.1.1.1.2" xref="A1.E35.m1.5.5.1.1.1.2.cmml">⁢</mo><mrow id="A1.E35.m1.5.5.1.1.1.1.1" xref="A1.E35.m1.5.5.1.1.1.1.2.cmml"><mo id="A1.E35.m1.5.5.1.1.1.1.1.2" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1" xref="A1.E35.m1.5.5.1.1.1.1.1.1.cmml"><msup id="A1.E35.m1.5.5.1.1.1.1.1.1.1" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.cmml"><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2.cmml">μ</mi><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.3.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A1.E35.m1.1.1" xref="A1.E35.m1.1.1.cmml">X</mi><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.cmml">−</mo><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.cmml"><msub id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.cmml"><mi id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.2.cmml">μ</mi><mi id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.3" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.3.cmml">θ</mi></msub><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.1" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.3.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.cmml"><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.3.2.1" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.cmml">(</mo><mi id="A1.E35.m1.2.2" xref="A1.E35.m1.2.2.cmml">x</mi><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.3.2.2" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mn id="A1.E35.m1.5.5.1.1.1.1.1.1.1.3" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.3.cmml">2</mn></msup><mo fence="false" id="A1.E35.m1.5.5.1.1.1.1.1.1.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.2.cmml">|</mo><mrow id="A1.E35.m1.5.5.1.1.1.1.1.1.3.2" xref="A1.E35.m1.5.5.1.1.1.1.1.1.3.1.cmml"><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E35.m1.3.3" xref="A1.E35.m1.3.3.cmml">x</mi><mo id="A1.E35.m1.5.5.1.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E35.m1.5.5.1.1.1.1.1.3" stretchy="false" xref="A1.E35.m1.5.5.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E35.m1.5.5.1.1.2" xref="A1.E35.m1.5.5.1.1.2.cmml">=</mo><mrow id="A1.E35.m1.5.5.1.1.3" xref="A1.E35.m1.5.5.1.1.3.cmml"><msub id="A1.E35.m1.5.5.1.1.3.2" xref="A1.E35.m1.5.5.1.1.3.2.cmml"><mi id="A1.E35.m1.5.5.1.1.3.2.2" xref="A1.E35.m1.5.5.1.1.3.2.2.cmml">cov</mi><mi id="A1.E35.m1.5.5.1.1.3.2.3" xref="A1.E35.m1.5.5.1.1.3.2.3.cmml">θ</mi></msub><mo id="A1.E35.m1.5.5.1.1.3.1" xref="A1.E35.m1.5.5.1.1.3.1.cmml">⁢</mo><mrow id="A1.E35.m1.5.5.1.1.3.3.2" xref="A1.E35.m1.5.5.1.1.3.cmml"><mo id="A1.E35.m1.5.5.1.1.3.3.2.1" stretchy="false" xref="A1.E35.m1.5.5.1.1.3.cmml">(</mo><mi id="A1.E35.m1.4.4" xref="A1.E35.m1.4.4.cmml">x</mi><mo id="A1.E35.m1.5.5.1.1.3.3.2.2" stretchy="false" xref="A1.E35.m1.5.5.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A1.E35.m1.5.5.1.2" xref="A1.E35.m1.5.5.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="A1.E35.m1.5b"><apply id="A1.E35.m1.5.5.1.1.cmml" xref="A1.E35.m1.5.5.1"><eq id="A1.E35.m1.5.5.1.1.2.cmml" xref="A1.E35.m1.5.5.1.1.2"></eq><apply id="A1.E35.m1.5.5.1.1.1.cmml" xref="A1.E35.m1.5.5.1.1.1"><times id="A1.E35.m1.5.5.1.1.1.2.cmml" xref="A1.E35.m1.5.5.1.1.1.2"></times><ci id="A1.E35.m1.5.5.1.1.1.3.cmml" xref="A1.E35.m1.5.5.1.1.1.3">𝔼</ci><apply id="A1.E35.m1.5.5.1.1.1.1.2.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1"><csymbol cd="latexml" id="A1.E35.m1.5.5.1.1.1.1.2.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E35.m1.5.5.1.1.1.1.1.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E35.m1.5.5.1.1.1.1.1.1.2.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.2">conditional</csymbol><apply id="A1.E35.m1.5.5.1.1.1.1.1.1.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E35.m1.5.5.1.1.1.1.1.1.1.2.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1">superscript</csymbol><apply id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1"><minus id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.1"></minus><apply id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2"><times id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1"></times><ci id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2">𝜇</ci><ci id="A1.E35.m1.1.1.cmml" xref="A1.E35.m1.1.1">𝑋</ci></apply><apply id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3"><times id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.1"></times><apply id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2">subscript</csymbol><ci id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.2.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.2">𝜇</ci><ci id="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.3.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.2.3">𝜃</ci></apply><ci id="A1.E35.m1.2.2.cmml" xref="A1.E35.m1.2.2">𝑥</ci></apply></apply><cn id="A1.E35.m1.5.5.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A1.E35.m1.5.5.1.1.1.1.1.1.1.3">2</cn></apply><apply id="A1.E35.m1.5.5.1.1.1.1.1.1.3.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E35.m1.5.5.1.1.1.1.1.1.3.1.1.cmml" xref="A1.E35.m1.5.5.1.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E35.m1.3.3.cmml" xref="A1.E35.m1.3.3">𝑥</ci></apply></apply></apply></apply><apply id="A1.E35.m1.5.5.1.1.3.cmml" xref="A1.E35.m1.5.5.1.1.3"><times id="A1.E35.m1.5.5.1.1.3.1.cmml" xref="A1.E35.m1.5.5.1.1.3.1"></times><apply id="A1.E35.m1.5.5.1.1.3.2.cmml" xref="A1.E35.m1.5.5.1.1.3.2"><csymbol cd="ambiguous" id="A1.E35.m1.5.5.1.1.3.2.1.cmml" xref="A1.E35.m1.5.5.1.1.3.2">subscript</csymbol><ci id="A1.E35.m1.5.5.1.1.3.2.2.cmml" xref="A1.E35.m1.5.5.1.1.3.2.2">cov</ci><ci id="A1.E35.m1.5.5.1.1.3.2.3.cmml" xref="A1.E35.m1.5.5.1.1.3.2.3">𝜃</ci></apply><ci id="A1.E35.m1.4.4.cmml" xref="A1.E35.m1.4.4">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E35.m1.5c">\mathbb{E}[(\mu(X)-\mu_{\theta}(x))^{2}|[x]]=\mathrm{cov}_{\theta}(x)\;.</annotation><annotation encoding="application/x-llamapun" id="A1.E35.m1.5d">blackboard_E [ ( italic_μ ( italic_X ) - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | [ italic_x ] ] = roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(35)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A1.Thmtheorem1.p1.7"><span class="ltx_text ltx_font_italic" id="A1.Thmtheorem1.p1.7.1">Furthermore:</span></p> <table class="ltx_equation ltx_eqn_table" id="A1.E36"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathbb{P}\left[|\mu_{\theta}(x)-\mu(X)|\geq\left.\sqrt{\frac{\mathrm{cov}_{% \theta}(x)}{\beta}}\right|X\in[x]\right]\leq\beta\;." class="ltx_Math" display="block" id="A1.E36.m1.5"><semantics id="A1.E36.m1.5a"><mrow id="A1.E36.m1.5.5.1" xref="A1.E36.m1.5.5.1.1.cmml"><mrow id="A1.E36.m1.5.5.1.1" xref="A1.E36.m1.5.5.1.1.cmml"><mrow id="A1.E36.m1.5.5.1.1.1" xref="A1.E36.m1.5.5.1.1.1.cmml"><mi id="A1.E36.m1.5.5.1.1.1.3" xref="A1.E36.m1.5.5.1.1.1.3.cmml">ℙ</mi><mo id="A1.E36.m1.5.5.1.1.1.2" xref="A1.E36.m1.5.5.1.1.1.2.cmml">⁢</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1" xref="A1.E36.m1.5.5.1.1.1.1.2.cmml"><mo id="A1.E36.m1.5.5.1.1.1.1.1.2" xref="A1.E36.m1.5.5.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1" xref="A1.E36.m1.5.5.1.1.1.1.1.1.cmml"><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.2.1.cmml">|</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml"><msub id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.cmml"><mi id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.2.cmml">μ</mi><mi id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.3" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.3.cmml">θ</mi></msub><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.1" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.3.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A1.E36.m1.2.2" xref="A1.E36.m1.2.2.cmml">x</mi><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.1" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml">−</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.2.cmml">μ</mi><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.1" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.3.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml"><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.3.2.1" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml">(</mo><mi id="A1.E36.m1.3.3" xref="A1.E36.m1.3.3.cmml">X</mi><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.3.2.2" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.2.1.cmml">|</mo></mrow><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.3" xref="A1.E36.m1.5.5.1.1.1.1.1.1.3.cmml">≥</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.4" xref="A1.E36.m1.5.5.1.1.1.1.1.1.4.cmml"><msqrt id="A1.E36.m1.1.1" xref="A1.E36.m1.1.1.cmml"><mfrac id="A1.E36.m1.1.1.1" xref="A1.E36.m1.1.1.1.cmml"><mrow id="A1.E36.m1.1.1.1.1.1" xref="A1.E36.m1.1.1.1.1.1.cmml"><msub id="A1.E36.m1.1.1.1.1.1.3" xref="A1.E36.m1.1.1.1.1.1.3.cmml"><mi id="A1.E36.m1.1.1.1.1.1.3.2" xref="A1.E36.m1.1.1.1.1.1.3.2.cmml">cov</mi><mi id="A1.E36.m1.1.1.1.1.1.3.3" xref="A1.E36.m1.1.1.1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E36.m1.1.1.1.1.1.2" xref="A1.E36.m1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E36.m1.1.1.1.1.1.4.2" xref="A1.E36.m1.1.1.1.1.1.cmml"><mo id="A1.E36.m1.1.1.1.1.1.4.2.1" stretchy="false" xref="A1.E36.m1.1.1.1.1.1.cmml">(</mo><mi id="A1.E36.m1.1.1.1.1.1.1" xref="A1.E36.m1.1.1.1.1.1.1.cmml">x</mi><mo id="A1.E36.m1.1.1.1.1.1.4.2.2" stretchy="false" xref="A1.E36.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mi id="A1.E36.m1.1.1.1.3" xref="A1.E36.m1.1.1.1.3.cmml">β</mi></mfrac></msqrt><mo fence="false" id="A1.E36.m1.5.5.1.1.1.1.1.1.4.1" stretchy="true" xref="A1.E36.m1.5.5.1.1.1.1.1.1.4.1.cmml">|</mo><mi id="A1.E36.m1.5.5.1.1.1.1.1.1.4.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.4.2.cmml">X</mi></mrow><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.5" xref="A1.E36.m1.5.5.1.1.1.1.1.1.5.cmml">∈</mo><mrow id="A1.E36.m1.5.5.1.1.1.1.1.1.6.2" xref="A1.E36.m1.5.5.1.1.1.1.1.1.6.1.cmml"><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.6.2.1" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.6.1.1.cmml">[</mo><mi id="A1.E36.m1.4.4" xref="A1.E36.m1.4.4.cmml">x</mi><mo id="A1.E36.m1.5.5.1.1.1.1.1.1.6.2.2" stretchy="false" xref="A1.E36.m1.5.5.1.1.1.1.1.1.6.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E36.m1.5.5.1.1.1.1.1.3" xref="A1.E36.m1.5.5.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E36.m1.5.5.1.1.2" xref="A1.E36.m1.5.5.1.1.2.cmml">≤</mo><mi id="A1.E36.m1.5.5.1.1.3" xref="A1.E36.m1.5.5.1.1.3.cmml">β</mi></mrow><mo id="A1.E36.m1.5.5.1.2" xref="A1.E36.m1.5.5.1.1.cmml">.</mo></mrow><annotation-xml encoding="MathML-Content" id="A1.E36.m1.5b"><apply id="A1.E36.m1.5.5.1.1.cmml" xref="A1.E36.m1.5.5.1"><leq id="A1.E36.m1.5.5.1.1.2.cmml" xref="A1.E36.m1.5.5.1.1.2"></leq><apply id="A1.E36.m1.5.5.1.1.1.cmml" xref="A1.E36.m1.5.5.1.1.1"><times id="A1.E36.m1.5.5.1.1.1.2.cmml" xref="A1.E36.m1.5.5.1.1.1.2"></times><ci id="A1.E36.m1.5.5.1.1.1.3.cmml" xref="A1.E36.m1.5.5.1.1.1.3">ℙ</ci><apply id="A1.E36.m1.5.5.1.1.1.1.2.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1"><csymbol cd="latexml" id="A1.E36.m1.5.5.1.1.1.1.2.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1"><and id="A1.E36.m1.5.5.1.1.1.1.1.1a.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1"></and><apply id="A1.E36.m1.5.5.1.1.1.1.1.1b.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1"><geq id="A1.E36.m1.5.5.1.1.1.1.1.1.3.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.3"></geq><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.1.2.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1"><abs id="A1.E36.m1.5.5.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.2"></abs><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1"><minus id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.1"></minus><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2"><times id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.1"></times><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.2.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.2">𝜇</ci><ci id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.3.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.2.2.3">𝜃</ci></apply><ci id="A1.E36.m1.2.2.cmml" xref="A1.E36.m1.2.2">𝑥</ci></apply><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3"><times id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.1"></times><ci id="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.1.1.1.3.2">𝜇</ci><ci id="A1.E36.m1.3.3.cmml" xref="A1.E36.m1.3.3">𝑋</ci></apply></apply></apply><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.4.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.4"><csymbol cd="latexml" id="A1.E36.m1.5.5.1.1.1.1.1.1.4.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.4.1">conditional</csymbol><apply id="A1.E36.m1.1.1.cmml" xref="A1.E36.m1.1.1"><root id="A1.E36.m1.1.1a.cmml" xref="A1.E36.m1.1.1"></root><apply id="A1.E36.m1.1.1.1.cmml" xref="A1.E36.m1.1.1.1"><divide id="A1.E36.m1.1.1.1.2.cmml" xref="A1.E36.m1.1.1.1"></divide><apply id="A1.E36.m1.1.1.1.1.1.cmml" xref="A1.E36.m1.1.1.1.1.1"><times id="A1.E36.m1.1.1.1.1.1.2.cmml" xref="A1.E36.m1.1.1.1.1.1.2"></times><apply id="A1.E36.m1.1.1.1.1.1.3.cmml" xref="A1.E36.m1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E36.m1.1.1.1.1.1.3.1.cmml" xref="A1.E36.m1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.E36.m1.1.1.1.1.1.3.2.cmml" xref="A1.E36.m1.1.1.1.1.1.3.2">cov</ci><ci id="A1.E36.m1.1.1.1.1.1.3.3.cmml" xref="A1.E36.m1.1.1.1.1.1.3.3">𝜃</ci></apply><ci id="A1.E36.m1.1.1.1.1.1.1.cmml" xref="A1.E36.m1.1.1.1.1.1.1">𝑥</ci></apply><ci id="A1.E36.m1.1.1.1.3.cmml" xref="A1.E36.m1.1.1.1.3">𝛽</ci></apply></apply><ci id="A1.E36.m1.5.5.1.1.1.1.1.1.4.2.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.4.2">𝑋</ci></apply></apply><apply id="A1.E36.m1.5.5.1.1.1.1.1.1c.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1"><in id="A1.E36.m1.5.5.1.1.1.1.1.1.5.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.5"></in><share href="https://arxiv.org/html/2503.13317v1#A1.E36.m1.5.5.1.1.1.1.1.1.4.cmml" id="A1.E36.m1.5.5.1.1.1.1.1.1d.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1"></share><apply id="A1.E36.m1.5.5.1.1.1.1.1.1.6.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.6.2"><csymbol cd="latexml" id="A1.E36.m1.5.5.1.1.1.1.1.1.6.1.1.cmml" xref="A1.E36.m1.5.5.1.1.1.1.1.1.6.2.1">delimited-[]</csymbol><ci id="A1.E36.m1.4.4.cmml" xref="A1.E36.m1.4.4">𝑥</ci></apply></apply></apply></apply></apply><ci id="A1.E36.m1.5.5.1.1.3.cmml" xref="A1.E36.m1.5.5.1.1.3">𝛽</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E36.m1.5c">\mathbb{P}\left[|\mu_{\theta}(x)-\mu(X)|\geq\left.\sqrt{\frac{\mathrm{cov}_{% \theta}(x)}{\beta}}\right|X\in[x]\right]\leq\beta\;.</annotation><annotation encoding="application/x-llamapun" id="A1.E36.m1.5d">blackboard_P [ | italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) - italic_μ ( italic_X ) | ≥ square-root start_ARG divide start_ARG roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) end_ARG start_ARG italic_β end_ARG end_ARG | italic_X ∈ [ italic_x ] ] ≤ italic_β .</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(36)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_proof" id="A1.10"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof of corollary <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A1.Thmtheorem1" title="Corollary A.1. ‣ Appendix A Proofs of the theorems ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">A.1</span></a>.</h6> <div class="ltx_para" id="A1.10.p1"> <p class="ltx_p" id="A1.10.p1.6">Both parts of the theorems are simple consequences of Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a>. The first part follows from the definition of variance:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E37"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E37X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="A1.E37X.2.1.1.m1.1"><semantics id="A1.E37X.2.1.1.m1.1a"><mrow id="A1.E37X.2.1.1.m1.1.2" xref="A1.E37X.2.1.1.m1.1.2.cmml"><msub id="A1.E37X.2.1.1.m1.1.2.2" xref="A1.E37X.2.1.1.m1.1.2.2.cmml"><mi id="A1.E37X.2.1.1.m1.1.2.2.2" xref="A1.E37X.2.1.1.m1.1.2.2.2.cmml">cov</mi><mi id="A1.E37X.2.1.1.m1.1.2.2.3" xref="A1.E37X.2.1.1.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A1.E37X.2.1.1.m1.1.2.1" xref="A1.E37X.2.1.1.m1.1.2.1.cmml">⁢</mo><mrow id="A1.E37X.2.1.1.m1.1.2.3.2" xref="A1.E37X.2.1.1.m1.1.2.cmml"><mo id="A1.E37X.2.1.1.m1.1.2.3.2.1" stretchy="false" xref="A1.E37X.2.1.1.m1.1.2.cmml">(</mo><mi id="A1.E37X.2.1.1.m1.1.1" xref="A1.E37X.2.1.1.m1.1.1.cmml">x</mi><mo id="A1.E37X.2.1.1.m1.1.2.3.2.2" stretchy="false" xref="A1.E37X.2.1.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E37X.2.1.1.m1.1b"><apply id="A1.E37X.2.1.1.m1.1.2.cmml" xref="A1.E37X.2.1.1.m1.1.2"><times id="A1.E37X.2.1.1.m1.1.2.1.cmml" xref="A1.E37X.2.1.1.m1.1.2.1"></times><apply id="A1.E37X.2.1.1.m1.1.2.2.cmml" xref="A1.E37X.2.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="A1.E37X.2.1.1.m1.1.2.2.1.cmml" xref="A1.E37X.2.1.1.m1.1.2.2">subscript</csymbol><ci id="A1.E37X.2.1.1.m1.1.2.2.2.cmml" xref="A1.E37X.2.1.1.m1.1.2.2.2">cov</ci><ci id="A1.E37X.2.1.1.m1.1.2.2.3.cmml" xref="A1.E37X.2.1.1.m1.1.2.2.3">𝜃</ci></apply><ci id="A1.E37X.2.1.1.m1.1.1.cmml" xref="A1.E37X.2.1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E37X.2.1.1.m1.1c">\displaystyle\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A1.E37X.2.1.1.m1.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{V}[\mu(X)|[x]]" class="ltx_Math" display="inline" id="A1.E37X.3.2.2.m1.3"><semantics id="A1.E37X.3.2.2.m1.3a"><mrow id="A1.E37X.3.2.2.m1.3.3" xref="A1.E37X.3.2.2.m1.3.3.cmml"><mi id="A1.E37X.3.2.2.m1.3.3.3" xref="A1.E37X.3.2.2.m1.3.3.3.cmml"></mi><mo id="A1.E37X.3.2.2.m1.3.3.2" xref="A1.E37X.3.2.2.m1.3.3.2.cmml">=</mo><mrow id="A1.E37X.3.2.2.m1.3.3.1" xref="A1.E37X.3.2.2.m1.3.3.1.cmml"><mi id="A1.E37X.3.2.2.m1.3.3.1.3" xref="A1.E37X.3.2.2.m1.3.3.1.3.cmml">𝕍</mi><mo id="A1.E37X.3.2.2.m1.3.3.1.2" xref="A1.E37X.3.2.2.m1.3.3.1.2.cmml">⁢</mo><mrow id="A1.E37X.3.2.2.m1.3.3.1.1.1" xref="A1.E37X.3.2.2.m1.3.3.1.1.2.cmml"><mo id="A1.E37X.3.2.2.m1.3.3.1.1.1.2" stretchy="false" xref="A1.E37X.3.2.2.m1.3.3.1.1.2.1.cmml">[</mo><mrow id="A1.E37X.3.2.2.m1.3.3.1.1.1.1" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.cmml"><mrow id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.cmml"><mi id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.2" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.2.cmml">μ</mi><mo id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.1" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.3.2" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.cmml"><mo id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.3.2.1" stretchy="false" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.cmml">(</mo><mi id="A1.E37X.3.2.2.m1.1.1" xref="A1.E37X.3.2.2.m1.1.1.cmml">X</mi><mo id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.3.2.2" stretchy="false" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.1" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.1.cmml">|</mo><mrow id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.2" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.1.cmml"><mo id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.2.1" stretchy="false" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E37X.3.2.2.m1.2.2" xref="A1.E37X.3.2.2.m1.2.2.cmml">x</mi><mo id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.2.2" stretchy="false" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E37X.3.2.2.m1.3.3.1.1.1.3" stretchy="false" xref="A1.E37X.3.2.2.m1.3.3.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E37X.3.2.2.m1.3b"><apply id="A1.E37X.3.2.2.m1.3.3.cmml" xref="A1.E37X.3.2.2.m1.3.3"><eq id="A1.E37X.3.2.2.m1.3.3.2.cmml" xref="A1.E37X.3.2.2.m1.3.3.2"></eq><csymbol cd="latexml" id="A1.E37X.3.2.2.m1.3.3.3.cmml" xref="A1.E37X.3.2.2.m1.3.3.3">absent</csymbol><apply id="A1.E37X.3.2.2.m1.3.3.1.cmml" xref="A1.E37X.3.2.2.m1.3.3.1"><times id="A1.E37X.3.2.2.m1.3.3.1.2.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.2"></times><ci id="A1.E37X.3.2.2.m1.3.3.1.3.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.3">𝕍</ci><apply id="A1.E37X.3.2.2.m1.3.3.1.1.2.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1"><csymbol cd="latexml" id="A1.E37X.3.2.2.m1.3.3.1.1.2.1.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.2">delimited-[]</csymbol><apply id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.1.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.1">conditional</csymbol><apply id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2"><times id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.1.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.1"></times><ci id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.2.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.2.2">𝜇</ci><ci id="A1.E37X.3.2.2.m1.1.1.cmml" xref="A1.E37X.3.2.2.m1.1.1">𝑋</ci></apply><apply id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.1.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.1.1.cmml" xref="A1.E37X.3.2.2.m1.3.3.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E37X.3.2.2.m1.2.2.cmml" xref="A1.E37X.3.2.2.m1.2.2">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E37X.3.2.2.m1.3c">\displaystyle=\mathbb{V}[\mu(X)|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E37X.3.2.2.m1.3d">= blackboard_V [ italic_μ ( italic_X ) | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E37X.5.1.1.1">Thm. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="3"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(37)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E37Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[(\mu(X)-\mathbb{E}[\mu(X)|[x]])^{2}|[x]]" class="ltx_Math" display="inline" id="A1.E37Xa.2.1.1.m1.5"><semantics id="A1.E37Xa.2.1.1.m1.5a"><mrow id="A1.E37Xa.2.1.1.m1.5.5" xref="A1.E37Xa.2.1.1.m1.5.5.cmml"><mi id="A1.E37Xa.2.1.1.m1.5.5.3" xref="A1.E37Xa.2.1.1.m1.5.5.3.cmml"></mi><mo id="A1.E37Xa.2.1.1.m1.5.5.2" xref="A1.E37Xa.2.1.1.m1.5.5.2.cmml">=</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.cmml"><mi id="A1.E37Xa.2.1.1.m1.5.5.1.3" xref="A1.E37Xa.2.1.1.m1.5.5.1.3.cmml">𝔼</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.2.cmml">⁢</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.2.cmml"><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.2" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.2.1.cmml">[</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.cmml"><msup id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.cmml"><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml"><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.cmml">μ</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.3.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml"><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.3.2.1" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml">(</mo><mi id="A1.E37Xa.2.1.1.m1.1.1" xref="A1.E37Xa.2.1.1.m1.1.1.cmml">X</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.3.2.2" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml">)</mo></mrow></mrow><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml">−</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.cmml"><mi id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml">μ</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A1.E37Xa.2.1.1.m1.2.2" xref="A1.E37Xa.2.1.1.m1.2.2.cmml">X</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo fence="false" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.1" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.1.cmml"><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.2.1" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E37Xa.2.1.1.m1.3.3" xref="A1.E37Xa.2.1.1.m1.3.3.cmml">x</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.2.2" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mn id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.3" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.3.cmml">2</mn></msup><mo fence="false" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.2.cmml">|</mo><mrow id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.2" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.1.cmml"><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.2.1" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E37Xa.2.1.1.m1.4.4" xref="A1.E37Xa.2.1.1.m1.4.4.cmml">x</mi><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.2.2" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.3" stretchy="false" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E37Xa.2.1.1.m1.5b"><apply id="A1.E37Xa.2.1.1.m1.5.5.cmml" xref="A1.E37Xa.2.1.1.m1.5.5"><eq id="A1.E37Xa.2.1.1.m1.5.5.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.2"></eq><csymbol cd="latexml" id="A1.E37Xa.2.1.1.m1.5.5.3.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.3">absent</csymbol><apply id="A1.E37Xa.2.1.1.m1.5.5.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1"><times id="A1.E37Xa.2.1.1.m1.5.5.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.2"></times><ci id="A1.E37Xa.2.1.1.m1.5.5.1.3.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.3">𝔼</ci><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1"><csymbol cd="latexml" id="A1.E37Xa.2.1.1.m1.5.5.1.1.2.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.2">delimited-[]</csymbol><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1"><csymbol cd="latexml" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.2">conditional</csymbol><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1">superscript</csymbol><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1"><minus id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2"></minus><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3"><times id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1"></times><ci id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2">𝜇</ci><ci id="A1.E37Xa.2.1.1.m1.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.1.1">𝑋</ci></apply><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1"><times id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2"></times><ci id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3">𝔼</ci><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2"><times id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.1"></times><ci id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.2.2">𝜇</ci><ci id="A1.E37Xa.2.1.1.m1.2.2.cmml" xref="A1.E37Xa.2.1.1.m1.2.2">𝑋</ci></apply><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E37Xa.2.1.1.m1.3.3.cmml" xref="A1.E37Xa.2.1.1.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply><cn id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.3.cmml" type="integer" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.1.3">2</cn></apply><apply id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.1.1.cmml" xref="A1.E37Xa.2.1.1.m1.5.5.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E37Xa.2.1.1.m1.4.4.cmml" xref="A1.E37Xa.2.1.1.m1.4.4">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E37Xa.2.1.1.m1.5c">\displaystyle=\mathbb{E}[(\mu(X)-\mathbb{E}[\mu(X)|[x]])^{2}|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E37Xa.2.1.1.m1.5d">= blackboard_E [ ( italic_μ ( italic_X ) - blackboard_E [ italic_μ ( italic_X ) | [ italic_x ] ] ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E37Xa.4.1.1.1">def. of </span><math alttext="\mathbb{V}" class="ltx_markedasmath" display="inline" id="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">𝕍</mi><annotation-xml encoding="MathML-Content" id="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1.1">𝕍</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{V}</annotation><annotation encoding="application/x-llamapun" id="A1.E37.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_V</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E37Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[(\mu(X)-\mu_{\theta}(x))^{2}|[x]]" class="ltx_Math" display="inline" id="A1.E37Xb.2.1.1.m1.4"><semantics id="A1.E37Xb.2.1.1.m1.4a"><mrow id="A1.E37Xb.2.1.1.m1.4.4" xref="A1.E37Xb.2.1.1.m1.4.4.cmml"><mi id="A1.E37Xb.2.1.1.m1.4.4.3" xref="A1.E37Xb.2.1.1.m1.4.4.3.cmml"></mi><mo id="A1.E37Xb.2.1.1.m1.4.4.2" xref="A1.E37Xb.2.1.1.m1.4.4.2.cmml">=</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.cmml"><mi id="A1.E37Xb.2.1.1.m1.4.4.1.3" xref="A1.E37Xb.2.1.1.m1.4.4.1.3.cmml">𝔼</mi><mo id="A1.E37Xb.2.1.1.m1.4.4.1.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.2.cmml">⁢</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.2.cmml"><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.2" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.2.1.cmml">[</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.cmml"><msup id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.cmml"><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.2" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.2.cmml">μ</mi><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.3.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A1.E37Xb.2.1.1.m1.1.1" xref="A1.E37Xb.2.1.1.m1.1.1.cmml">X</mi><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml">−</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.cmml"><msub id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.cmml"><mi id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.2.cmml">μ</mi><mi id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.3" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.3.cmml">θ</mi></msub><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.1" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.3.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.cmml"><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.3.2.1" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.cmml">(</mo><mi id="A1.E37Xb.2.1.1.m1.2.2" xref="A1.E37Xb.2.1.1.m1.2.2.cmml">x</mi><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.3.2.2" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.3" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mn id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.3" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.3.cmml">2</mn></msup><mo fence="false" id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.2.cmml">|</mo><mrow id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.2" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.1.cmml"><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.2.1" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.1.1.cmml">[</mo><mi id="A1.E37Xb.2.1.1.m1.3.3" xref="A1.E37Xb.2.1.1.m1.3.3.cmml">x</mi><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.2.2" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.3" stretchy="false" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E37Xb.2.1.1.m1.4b"><apply id="A1.E37Xb.2.1.1.m1.4.4.cmml" xref="A1.E37Xb.2.1.1.m1.4.4"><eq id="A1.E37Xb.2.1.1.m1.4.4.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.2"></eq><csymbol cd="latexml" id="A1.E37Xb.2.1.1.m1.4.4.3.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.3">absent</csymbol><apply id="A1.E37Xb.2.1.1.m1.4.4.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1"><times id="A1.E37Xb.2.1.1.m1.4.4.1.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.2"></times><ci id="A1.E37Xb.2.1.1.m1.4.4.1.3.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.3">𝔼</ci><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1"><csymbol cd="latexml" id="A1.E37Xb.2.1.1.m1.4.4.1.1.2.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.2">delimited-[]</csymbol><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1"><csymbol cd="latexml" id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.2">conditional</csymbol><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1"><csymbol cd="ambiguous" id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1">superscript</csymbol><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1"><minus id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.1"></minus><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2"><times id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.1"></times><ci id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.2.2">𝜇</ci><ci id="A1.E37Xb.2.1.1.m1.1.1.cmml" xref="A1.E37Xb.2.1.1.m1.1.1">𝑋</ci></apply><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3"><times id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.1"></times><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2">subscript</csymbol><ci id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.2.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.2">𝜇</ci><ci id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.3.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.1.1.1.3.2.3">𝜃</ci></apply><ci id="A1.E37Xb.2.1.1.m1.2.2.cmml" xref="A1.E37Xb.2.1.1.m1.2.2">𝑥</ci></apply></apply><cn id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.3.cmml" type="integer" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.1.3">2</cn></apply><apply id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.2"><csymbol cd="latexml" id="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.1.1.cmml" xref="A1.E37Xb.2.1.1.m1.4.4.1.1.1.1.3.2.1">delimited-[]</csymbol><ci id="A1.E37Xb.2.1.1.m1.3.3.cmml" xref="A1.E37Xb.2.1.1.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E37Xb.2.1.1.m1.4c">\displaystyle=\mathbb{E}[(\mu(X)-\mu_{\theta}(x))^{2}|[x]]</annotation><annotation encoding="application/x-llamapun" id="A1.E37Xb.2.1.1.m1.4d">= blackboard_E [ ( italic_μ ( italic_X ) - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E37Xb.4.1.1.1">Thm. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.10.p1.3">For the second part, remembering that for any random variable <math alttext="Z" class="ltx_Math" display="inline" id="A1.10.p1.1.m1.1"><semantics id="A1.10.p1.1.m1.1a"><mi id="A1.10.p1.1.m1.1.1" xref="A1.10.p1.1.m1.1.1.cmml">Z</mi><annotation-xml encoding="MathML-Content" id="A1.10.p1.1.m1.1b"><ci id="A1.10.p1.1.m1.1.1.cmml" xref="A1.10.p1.1.m1.1.1">𝑍</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.10.p1.1.m1.1c">Z</annotation><annotation encoding="application/x-llamapun" id="A1.10.p1.1.m1.1d">italic_Z</annotation></semantics></math> with finite variance (and expectation) <math alttext="\mathbb{V}[Z]" class="ltx_Math" display="inline" id="A1.10.p1.2.m2.1"><semantics id="A1.10.p1.2.m2.1a"><mrow id="A1.10.p1.2.m2.1.2" xref="A1.10.p1.2.m2.1.2.cmml"><mi id="A1.10.p1.2.m2.1.2.2" xref="A1.10.p1.2.m2.1.2.2.cmml">𝕍</mi><mo id="A1.10.p1.2.m2.1.2.1" xref="A1.10.p1.2.m2.1.2.1.cmml">⁢</mo><mrow id="A1.10.p1.2.m2.1.2.3.2" xref="A1.10.p1.2.m2.1.2.3.1.cmml"><mo id="A1.10.p1.2.m2.1.2.3.2.1" stretchy="false" xref="A1.10.p1.2.m2.1.2.3.1.1.cmml">[</mo><mi id="A1.10.p1.2.m2.1.1" xref="A1.10.p1.2.m2.1.1.cmml">Z</mi><mo id="A1.10.p1.2.m2.1.2.3.2.2" stretchy="false" xref="A1.10.p1.2.m2.1.2.3.1.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.10.p1.2.m2.1b"><apply id="A1.10.p1.2.m2.1.2.cmml" xref="A1.10.p1.2.m2.1.2"><times id="A1.10.p1.2.m2.1.2.1.cmml" xref="A1.10.p1.2.m2.1.2.1"></times><ci id="A1.10.p1.2.m2.1.2.2.cmml" xref="A1.10.p1.2.m2.1.2.2">𝕍</ci><apply id="A1.10.p1.2.m2.1.2.3.1.cmml" xref="A1.10.p1.2.m2.1.2.3.2"><csymbol cd="latexml" id="A1.10.p1.2.m2.1.2.3.1.1.cmml" xref="A1.10.p1.2.m2.1.2.3.2.1">delimited-[]</csymbol><ci id="A1.10.p1.2.m2.1.1.cmml" xref="A1.10.p1.2.m2.1.1">𝑍</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.10.p1.2.m2.1c">\mathbb{V}[Z]</annotation><annotation encoding="application/x-llamapun" id="A1.10.p1.2.m2.1d">blackboard_V [ italic_Z ]</annotation></semantics></math> (<math alttext="\mathbb{E}[Z]" class="ltx_Math" display="inline" id="A1.10.p1.3.m3.1"><semantics id="A1.10.p1.3.m3.1a"><mrow id="A1.10.p1.3.m3.1.2" xref="A1.10.p1.3.m3.1.2.cmml"><mi id="A1.10.p1.3.m3.1.2.2" xref="A1.10.p1.3.m3.1.2.2.cmml">𝔼</mi><mo id="A1.10.p1.3.m3.1.2.1" xref="A1.10.p1.3.m3.1.2.1.cmml">⁢</mo><mrow id="A1.10.p1.3.m3.1.2.3.2" xref="A1.10.p1.3.m3.1.2.3.1.cmml"><mo id="A1.10.p1.3.m3.1.2.3.2.1" stretchy="false" xref="A1.10.p1.3.m3.1.2.3.1.1.cmml">[</mo><mi id="A1.10.p1.3.m3.1.1" xref="A1.10.p1.3.m3.1.1.cmml">Z</mi><mo id="A1.10.p1.3.m3.1.2.3.2.2" stretchy="false" xref="A1.10.p1.3.m3.1.2.3.1.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.10.p1.3.m3.1b"><apply id="A1.10.p1.3.m3.1.2.cmml" xref="A1.10.p1.3.m3.1.2"><times id="A1.10.p1.3.m3.1.2.1.cmml" xref="A1.10.p1.3.m3.1.2.1"></times><ci id="A1.10.p1.3.m3.1.2.2.cmml" xref="A1.10.p1.3.m3.1.2.2">𝔼</ci><apply id="A1.10.p1.3.m3.1.2.3.1.cmml" xref="A1.10.p1.3.m3.1.2.3.2"><csymbol cd="latexml" id="A1.10.p1.3.m3.1.2.3.1.1.cmml" xref="A1.10.p1.3.m3.1.2.3.2.1">delimited-[]</csymbol><ci id="A1.10.p1.3.m3.1.1.cmml" xref="A1.10.p1.3.m3.1.1">𝑍</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.10.p1.3.m3.1c">\mathbb{E}[Z]</annotation><annotation encoding="application/x-llamapun" id="A1.10.p1.3.m3.1d">blackboard_E [ italic_Z ]</annotation></semantics></math>), the Chebyshev inequality yields:</p> <table class="ltx_equation ltx_eqn_table" id="A1.E38"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathbb{P}\left[|Z-\mathbb{E}[Z]|\geq\sqrt{\frac{\mathbb{V}[Z]}{\beta}}\right]\leq\beta" class="ltx_Math" display="block" id="A1.E38.m1.3"><semantics id="A1.E38.m1.3a"><mrow id="A1.E38.m1.3.3" xref="A1.E38.m1.3.3.cmml"><mrow id="A1.E38.m1.3.3.1" xref="A1.E38.m1.3.3.1.cmml"><mi id="A1.E38.m1.3.3.1.3" xref="A1.E38.m1.3.3.1.3.cmml">ℙ</mi><mo id="A1.E38.m1.3.3.1.2" xref="A1.E38.m1.3.3.1.2.cmml">⁢</mo><mrow id="A1.E38.m1.3.3.1.1.1" xref="A1.E38.m1.3.3.1.1.2.cmml"><mo id="A1.E38.m1.3.3.1.1.1.2" xref="A1.E38.m1.3.3.1.1.2.1.cmml">[</mo><mrow id="A1.E38.m1.3.3.1.1.1.1" xref="A1.E38.m1.3.3.1.1.1.1.cmml"><mrow id="A1.E38.m1.3.3.1.1.1.1.1.1" xref="A1.E38.m1.3.3.1.1.1.1.1.2.cmml"><mo id="A1.E38.m1.3.3.1.1.1.1.1.1.2" stretchy="false" xref="A1.E38.m1.3.3.1.1.1.1.1.2.1.cmml">|</mo><mrow id="A1.E38.m1.3.3.1.1.1.1.1.1.1" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.cmml"><mi id="A1.E38.m1.3.3.1.1.1.1.1.1.1.2" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.2.cmml">Z</mi><mo id="A1.E38.m1.3.3.1.1.1.1.1.1.1.1" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.1.cmml">−</mo><mrow id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.cmml"><mi id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.2" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.2.cmml">𝔼</mi><mo id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.1" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.2" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.1.cmml"><mo id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.2.1" stretchy="false" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.1.1.cmml">[</mo><mi id="A1.E38.m1.2.2" xref="A1.E38.m1.2.2.cmml">Z</mi><mo id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.2.2" stretchy="false" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.1.1.cmml">]</mo></mrow></mrow></mrow><mo id="A1.E38.m1.3.3.1.1.1.1.1.1.3" stretchy="false" xref="A1.E38.m1.3.3.1.1.1.1.1.2.1.cmml">|</mo></mrow><mo id="A1.E38.m1.3.3.1.1.1.1.2" xref="A1.E38.m1.3.3.1.1.1.1.2.cmml">≥</mo><msqrt id="A1.E38.m1.1.1" xref="A1.E38.m1.1.1.cmml"><mfrac id="A1.E38.m1.1.1.1" xref="A1.E38.m1.1.1.1.cmml"><mrow id="A1.E38.m1.1.1.1.1.1" xref="A1.E38.m1.1.1.1.1.1.cmml"><mi id="A1.E38.m1.1.1.1.1.1.3" xref="A1.E38.m1.1.1.1.1.1.3.cmml">𝕍</mi><mo id="A1.E38.m1.1.1.1.1.1.2" xref="A1.E38.m1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E38.m1.1.1.1.1.1.4.2" xref="A1.E38.m1.1.1.1.1.1.4.1.cmml"><mo id="A1.E38.m1.1.1.1.1.1.4.2.1" stretchy="false" xref="A1.E38.m1.1.1.1.1.1.4.1.1.cmml">[</mo><mi id="A1.E38.m1.1.1.1.1.1.1" xref="A1.E38.m1.1.1.1.1.1.1.cmml">Z</mi><mo id="A1.E38.m1.1.1.1.1.1.4.2.2" stretchy="false" xref="A1.E38.m1.1.1.1.1.1.4.1.1.cmml">]</mo></mrow></mrow><mi id="A1.E38.m1.1.1.1.3" xref="A1.E38.m1.1.1.1.3.cmml">β</mi></mfrac></msqrt></mrow><mo id="A1.E38.m1.3.3.1.1.1.3" xref="A1.E38.m1.3.3.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.E38.m1.3.3.2" xref="A1.E38.m1.3.3.2.cmml">≤</mo><mi id="A1.E38.m1.3.3.3" xref="A1.E38.m1.3.3.3.cmml">β</mi></mrow><annotation-xml encoding="MathML-Content" id="A1.E38.m1.3b"><apply id="A1.E38.m1.3.3.cmml" xref="A1.E38.m1.3.3"><leq id="A1.E38.m1.3.3.2.cmml" xref="A1.E38.m1.3.3.2"></leq><apply id="A1.E38.m1.3.3.1.cmml" xref="A1.E38.m1.3.3.1"><times id="A1.E38.m1.3.3.1.2.cmml" xref="A1.E38.m1.3.3.1.2"></times><ci id="A1.E38.m1.3.3.1.3.cmml" xref="A1.E38.m1.3.3.1.3">ℙ</ci><apply id="A1.E38.m1.3.3.1.1.2.cmml" xref="A1.E38.m1.3.3.1.1.1"><csymbol cd="latexml" id="A1.E38.m1.3.3.1.1.2.1.cmml" xref="A1.E38.m1.3.3.1.1.1.2">delimited-[]</csymbol><apply id="A1.E38.m1.3.3.1.1.1.1.cmml" xref="A1.E38.m1.3.3.1.1.1.1"><geq id="A1.E38.m1.3.3.1.1.1.1.2.cmml" xref="A1.E38.m1.3.3.1.1.1.1.2"></geq><apply id="A1.E38.m1.3.3.1.1.1.1.1.2.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1"><abs id="A1.E38.m1.3.3.1.1.1.1.1.2.1.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.2"></abs><apply id="A1.E38.m1.3.3.1.1.1.1.1.1.1.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1"><minus id="A1.E38.m1.3.3.1.1.1.1.1.1.1.1.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.1"></minus><ci id="A1.E38.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.2">𝑍</ci><apply id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3"><times id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.1"></times><ci id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.2">𝔼</ci><apply id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.1.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.2"><csymbol cd="latexml" id="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.1.1.cmml" xref="A1.E38.m1.3.3.1.1.1.1.1.1.1.3.3.2.1">delimited-[]</csymbol><ci id="A1.E38.m1.2.2.cmml" xref="A1.E38.m1.2.2">𝑍</ci></apply></apply></apply></apply><apply id="A1.E38.m1.1.1.cmml" xref="A1.E38.m1.1.1"><root id="A1.E38.m1.1.1a.cmml" xref="A1.E38.m1.1.1"></root><apply id="A1.E38.m1.1.1.1.cmml" xref="A1.E38.m1.1.1.1"><divide id="A1.E38.m1.1.1.1.2.cmml" xref="A1.E38.m1.1.1.1"></divide><apply id="A1.E38.m1.1.1.1.1.1.cmml" xref="A1.E38.m1.1.1.1.1.1"><times id="A1.E38.m1.1.1.1.1.1.2.cmml" xref="A1.E38.m1.1.1.1.1.1.2"></times><ci id="A1.E38.m1.1.1.1.1.1.3.cmml" xref="A1.E38.m1.1.1.1.1.1.3">𝕍</ci><apply id="A1.E38.m1.1.1.1.1.1.4.1.cmml" xref="A1.E38.m1.1.1.1.1.1.4.2"><csymbol cd="latexml" id="A1.E38.m1.1.1.1.1.1.4.1.1.cmml" xref="A1.E38.m1.1.1.1.1.1.4.2.1">delimited-[]</csymbol><ci id="A1.E38.m1.1.1.1.1.1.1.cmml" xref="A1.E38.m1.1.1.1.1.1.1">𝑍</ci></apply></apply><ci id="A1.E38.m1.1.1.1.3.cmml" xref="A1.E38.m1.1.1.1.3">𝛽</ci></apply></apply></apply></apply></apply><ci id="A1.E38.m1.3.3.3.cmml" xref="A1.E38.m1.3.3.3">𝛽</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E38.m1.3c">\mathbb{P}\left[|Z-\mathbb{E}[Z]|\geq\sqrt{\frac{\mathbb{V}[Z]}{\beta}}\right]\leq\beta</annotation><annotation encoding="application/x-llamapun" id="A1.E38.m1.3d">blackboard_P [ | italic_Z - blackboard_E [ italic_Z ] | ≥ square-root start_ARG divide start_ARG blackboard_V [ italic_Z ] end_ARG start_ARG italic_β end_ARG end_ARG ] ≤ italic_β</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(38)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A1.10.p1.5">Let <math alttext="Z=\mathbb{E}[Y|X]=\mu(X)" class="ltx_Math" display="inline" id="A1.10.p1.4.m1.2"><semantics id="A1.10.p1.4.m1.2a"><mrow id="A1.10.p1.4.m1.2.2" xref="A1.10.p1.4.m1.2.2.cmml"><mi id="A1.10.p1.4.m1.2.2.3" xref="A1.10.p1.4.m1.2.2.3.cmml">Z</mi><mo id="A1.10.p1.4.m1.2.2.4" xref="A1.10.p1.4.m1.2.2.4.cmml">=</mo><mrow id="A1.10.p1.4.m1.2.2.1" xref="A1.10.p1.4.m1.2.2.1.cmml"><mi id="A1.10.p1.4.m1.2.2.1.3" xref="A1.10.p1.4.m1.2.2.1.3.cmml">𝔼</mi><mo id="A1.10.p1.4.m1.2.2.1.2" xref="A1.10.p1.4.m1.2.2.1.2.cmml">⁢</mo><mrow id="A1.10.p1.4.m1.2.2.1.1.1" xref="A1.10.p1.4.m1.2.2.1.1.2.cmml"><mo id="A1.10.p1.4.m1.2.2.1.1.1.2" stretchy="false" xref="A1.10.p1.4.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="A1.10.p1.4.m1.2.2.1.1.1.1" xref="A1.10.p1.4.m1.2.2.1.1.1.1.cmml"><mi id="A1.10.p1.4.m1.2.2.1.1.1.1.2" xref="A1.10.p1.4.m1.2.2.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A1.10.p1.4.m1.2.2.1.1.1.1.1" xref="A1.10.p1.4.m1.2.2.1.1.1.1.1.cmml">|</mo><mi id="A1.10.p1.4.m1.2.2.1.1.1.1.3" xref="A1.10.p1.4.m1.2.2.1.1.1.1.3.cmml">X</mi></mrow><mo id="A1.10.p1.4.m1.2.2.1.1.1.3" stretchy="false" xref="A1.10.p1.4.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A1.10.p1.4.m1.2.2.5" xref="A1.10.p1.4.m1.2.2.5.cmml">=</mo><mrow id="A1.10.p1.4.m1.2.2.6" xref="A1.10.p1.4.m1.2.2.6.cmml"><mi id="A1.10.p1.4.m1.2.2.6.2" xref="A1.10.p1.4.m1.2.2.6.2.cmml">μ</mi><mo id="A1.10.p1.4.m1.2.2.6.1" xref="A1.10.p1.4.m1.2.2.6.1.cmml">⁢</mo><mrow id="A1.10.p1.4.m1.2.2.6.3.2" xref="A1.10.p1.4.m1.2.2.6.cmml"><mo id="A1.10.p1.4.m1.2.2.6.3.2.1" stretchy="false" xref="A1.10.p1.4.m1.2.2.6.cmml">(</mo><mi id="A1.10.p1.4.m1.1.1" xref="A1.10.p1.4.m1.1.1.cmml">X</mi><mo id="A1.10.p1.4.m1.2.2.6.3.2.2" stretchy="false" xref="A1.10.p1.4.m1.2.2.6.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.10.p1.4.m1.2b"><apply id="A1.10.p1.4.m1.2.2.cmml" xref="A1.10.p1.4.m1.2.2"><and id="A1.10.p1.4.m1.2.2a.cmml" xref="A1.10.p1.4.m1.2.2"></and><apply id="A1.10.p1.4.m1.2.2b.cmml" xref="A1.10.p1.4.m1.2.2"><eq id="A1.10.p1.4.m1.2.2.4.cmml" xref="A1.10.p1.4.m1.2.2.4"></eq><ci id="A1.10.p1.4.m1.2.2.3.cmml" xref="A1.10.p1.4.m1.2.2.3">𝑍</ci><apply id="A1.10.p1.4.m1.2.2.1.cmml" xref="A1.10.p1.4.m1.2.2.1"><times id="A1.10.p1.4.m1.2.2.1.2.cmml" xref="A1.10.p1.4.m1.2.2.1.2"></times><ci id="A1.10.p1.4.m1.2.2.1.3.cmml" xref="A1.10.p1.4.m1.2.2.1.3">𝔼</ci><apply id="A1.10.p1.4.m1.2.2.1.1.2.cmml" xref="A1.10.p1.4.m1.2.2.1.1.1"><csymbol cd="latexml" id="A1.10.p1.4.m1.2.2.1.1.2.1.cmml" xref="A1.10.p1.4.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A1.10.p1.4.m1.2.2.1.1.1.1.cmml" xref="A1.10.p1.4.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A1.10.p1.4.m1.2.2.1.1.1.1.1.cmml" xref="A1.10.p1.4.m1.2.2.1.1.1.1.1">conditional</csymbol><ci id="A1.10.p1.4.m1.2.2.1.1.1.1.2.cmml" xref="A1.10.p1.4.m1.2.2.1.1.1.1.2">𝑌</ci><ci id="A1.10.p1.4.m1.2.2.1.1.1.1.3.cmml" xref="A1.10.p1.4.m1.2.2.1.1.1.1.3">𝑋</ci></apply></apply></apply></apply><apply id="A1.10.p1.4.m1.2.2c.cmml" xref="A1.10.p1.4.m1.2.2"><eq id="A1.10.p1.4.m1.2.2.5.cmml" xref="A1.10.p1.4.m1.2.2.5"></eq><share href="https://arxiv.org/html/2503.13317v1#A1.10.p1.4.m1.2.2.1.cmml" id="A1.10.p1.4.m1.2.2d.cmml" xref="A1.10.p1.4.m1.2.2"></share><apply id="A1.10.p1.4.m1.2.2.6.cmml" xref="A1.10.p1.4.m1.2.2.6"><times id="A1.10.p1.4.m1.2.2.6.1.cmml" xref="A1.10.p1.4.m1.2.2.6.1"></times><ci id="A1.10.p1.4.m1.2.2.6.2.cmml" xref="A1.10.p1.4.m1.2.2.6.2">𝜇</ci><ci id="A1.10.p1.4.m1.1.1.cmml" xref="A1.10.p1.4.m1.1.1">𝑋</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.10.p1.4.m1.2c">Z=\mathbb{E}[Y|X]=\mu(X)</annotation><annotation encoding="application/x-llamapun" id="A1.10.p1.4.m1.2d">italic_Z = blackboard_E [ italic_Y | italic_X ] = italic_μ ( italic_X )</annotation></semantics></math>. Conditioning on <math alttext="X\in[x]" class="ltx_Math" display="inline" id="A1.10.p1.5.m2.1"><semantics id="A1.10.p1.5.m2.1a"><mrow id="A1.10.p1.5.m2.1.2" xref="A1.10.p1.5.m2.1.2.cmml"><mi id="A1.10.p1.5.m2.1.2.2" xref="A1.10.p1.5.m2.1.2.2.cmml">X</mi><mo id="A1.10.p1.5.m2.1.2.1" xref="A1.10.p1.5.m2.1.2.1.cmml">∈</mo><mrow id="A1.10.p1.5.m2.1.2.3.2" xref="A1.10.p1.5.m2.1.2.3.1.cmml"><mo id="A1.10.p1.5.m2.1.2.3.2.1" stretchy="false" xref="A1.10.p1.5.m2.1.2.3.1.1.cmml">[</mo><mi id="A1.10.p1.5.m2.1.1" xref="A1.10.p1.5.m2.1.1.cmml">x</mi><mo id="A1.10.p1.5.m2.1.2.3.2.2" stretchy="false" xref="A1.10.p1.5.m2.1.2.3.1.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.10.p1.5.m2.1b"><apply id="A1.10.p1.5.m2.1.2.cmml" xref="A1.10.p1.5.m2.1.2"><in id="A1.10.p1.5.m2.1.2.1.cmml" xref="A1.10.p1.5.m2.1.2.1"></in><ci id="A1.10.p1.5.m2.1.2.2.cmml" xref="A1.10.p1.5.m2.1.2.2">𝑋</ci><apply id="A1.10.p1.5.m2.1.2.3.1.cmml" xref="A1.10.p1.5.m2.1.2.3.2"><csymbol cd="latexml" id="A1.10.p1.5.m2.1.2.3.1.1.cmml" xref="A1.10.p1.5.m2.1.2.3.2.1">delimited-[]</csymbol><ci id="A1.10.p1.5.m2.1.1.cmml" xref="A1.10.p1.5.m2.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.10.p1.5.m2.1c">X\in[x]</annotation><annotation encoding="application/x-llamapun" id="A1.10.p1.5.m2.1d">italic_X ∈ [ italic_x ]</annotation></semantics></math> gives:</p> <table class="ltx_equationgroup ltx_eqn_table" id="A1.E39"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E39X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\beta" class="ltx_Math" display="inline" id="A1.E39X.2.1.1.m1.1"><semantics id="A1.E39X.2.1.1.m1.1a"><mi id="A1.E39X.2.1.1.m1.1.1" xref="A1.E39X.2.1.1.m1.1.1.cmml">β</mi><annotation-xml encoding="MathML-Content" id="A1.E39X.2.1.1.m1.1b"><ci id="A1.E39X.2.1.1.m1.1.1.cmml" xref="A1.E39X.2.1.1.m1.1.1">𝛽</ci></annotation-xml><annotation encoding="application/x-tex" id="A1.E39X.2.1.1.m1.1c">\displaystyle\beta</annotation><annotation encoding="application/x-llamapun" id="A1.E39X.2.1.1.m1.1d">italic_β</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle\geq\mathbb{P}\left[|\mu(X)-\mathbb{E}[\mu(X)|[x]]|\geq\left.% \sqrt{\frac{\mathbb{V}[\mu(X)|[x]]}{\beta}}\right|X\in[x]\right]" class="ltx_math_unparsed" display="inline" id="A1.E39X.3.2.2.m1.6"><semantics id="A1.E39X.3.2.2.m1.6a"><mrow id="A1.E39X.3.2.2.m1.6b"><mo id="A1.E39X.3.2.2.m1.6.7">≥</mo><mi id="A1.E39X.3.2.2.m1.6.8">ℙ</mi><mrow id="A1.E39X.3.2.2.m1.6.9"><mo id="A1.E39X.3.2.2.m1.6.9.1">[</mo><mo fence="false" id="A1.E39X.3.2.2.m1.6.9.2" rspace="0.167em" stretchy="false">|</mo><mi id="A1.E39X.3.2.2.m1.6.9.3">μ</mi><mrow id="A1.E39X.3.2.2.m1.6.9.4"><mo id="A1.E39X.3.2.2.m1.6.9.4.1" stretchy="false">(</mo><mi id="A1.E39X.3.2.2.m1.4.4">X</mi><mo id="A1.E39X.3.2.2.m1.6.9.4.2" stretchy="false">)</mo></mrow><mo id="A1.E39X.3.2.2.m1.6.9.5">−</mo><mi id="A1.E39X.3.2.2.m1.6.9.6">𝔼</mi><mrow id="A1.E39X.3.2.2.m1.6.9.7"><mo id="A1.E39X.3.2.2.m1.6.9.7.1" stretchy="false">[</mo><mi id="A1.E39X.3.2.2.m1.6.9.7.2">μ</mi><mrow id="A1.E39X.3.2.2.m1.6.9.7.3"><mo id="A1.E39X.3.2.2.m1.6.9.7.3.1" stretchy="false">(</mo><mi id="A1.E39X.3.2.2.m1.5.5">X</mi><mo id="A1.E39X.3.2.2.m1.6.9.7.3.2" stretchy="false">)</mo></mrow><mo fence="false" id="A1.E39X.3.2.2.m1.6.9.7.4" rspace="0.167em" stretchy="false">|</mo><mrow id="A1.E39X.3.2.2.m1.6.9.7.5"><mo id="A1.E39X.3.2.2.m1.6.9.7.5.1" stretchy="false">[</mo><mi id="A1.E39X.3.2.2.m1.6.6">x</mi><mo id="A1.E39X.3.2.2.m1.6.9.7.5.2" stretchy="false">]</mo></mrow><mo id="A1.E39X.3.2.2.m1.6.9.7.6" stretchy="false">]</mo></mrow><mo fence="false" id="A1.E39X.3.2.2.m1.6.9.8" stretchy="false">|</mo><mo id="A1.E39X.3.2.2.m1.6.9.9" lspace="0.167em">≥</mo><msqrt id="A1.E39X.3.2.2.m1.3.3"><mstyle displaystyle="true" id="A1.E39X.3.2.2.m1.3.3.3"><mfrac id="A1.E39X.3.2.2.m1.3.3.3a"><mrow id="A1.E39X.3.2.2.m1.3.3.3.3.3"><mi id="A1.E39X.3.2.2.m1.3.3.3.3.3.5">𝕍</mi><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.4">⁢</mo><mrow id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1"><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.2" stretchy="false">[</mo><mrow id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1"><mrow id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.2"><mi id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.2.2">μ</mi><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.2.1">⁢</mo><mrow id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.2.3.2"><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.2.3.2.1" stretchy="false">(</mo><mi id="A1.E39X.3.2.2.m1.1.1.1.1.1.1">X</mi><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.2.3.2.2" stretchy="false">)</mo></mrow></mrow><mo fence="false" id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.1">|</mo><mrow id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.3.2"><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.3.2.1" stretchy="false">[</mo><mi id="A1.E39X.3.2.2.m1.2.2.2.2.2.2">x</mi><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.1.3.2.2" stretchy="false">]</mo></mrow></mrow><mo id="A1.E39X.3.2.2.m1.3.3.3.3.3.3.1.3" stretchy="false">]</mo></mrow></mrow><mi id="A1.E39X.3.2.2.m1.3.3.3.5">β</mi></mfrac></mstyle></msqrt><mo fence="false" id="A1.E39X.3.2.2.m1.6.9.10" rspace="0.167em">|</mo><mi id="A1.E39X.3.2.2.m1.6.9.11">X</mi><mo id="A1.E39X.3.2.2.m1.6.9.12">∈</mo><mrow id="A1.E39X.3.2.2.m1.6.9.13"><mo id="A1.E39X.3.2.2.m1.6.9.13.1" stretchy="false">[</mo><mi id="A1.E39X.3.2.2.m1.6.9.13.2">x</mi><mo id="A1.E39X.3.2.2.m1.6.9.13.3" stretchy="false">]</mo></mrow><mo id="A1.E39X.3.2.2.m1.6.9.14">]</mo></mrow></mrow><annotation encoding="application/x-tex" id="A1.E39X.3.2.2.m1.6c">\displaystyle\geq\mathbb{P}\left[|\mu(X)-\mathbb{E}[\mu(X)|[x]]|\geq\left.% \sqrt{\frac{\mathbb{V}[\mu(X)|[x]]}{\beta}}\right|X\in[x]\right]</annotation><annotation encoding="application/x-llamapun" id="A1.E39X.3.2.2.m1.6d">≥ blackboard_P [ | italic_μ ( italic_X ) - blackboard_E [ italic_μ ( italic_X ) | [ italic_x ] ] | ≥ square-root start_ARG divide start_ARG blackboard_V [ italic_μ ( italic_X ) | [ italic_x ] ] end_ARG start_ARG italic_β end_ARG end_ARG | italic_X ∈ [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="2"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(39)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A1.E39Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{P}\left[|\mu(X)-\mu_{\theta}(x)|\geq\left.\sqrt{\frac{% \mathrm{cov}_{\theta}(x)}{\beta}}\right|X\in[x]\right]" class="ltx_Math" display="inline" id="A1.E39Xa.2.1.1.m1.5"><semantics id="A1.E39Xa.2.1.1.m1.5a"><mrow id="A1.E39Xa.2.1.1.m1.5.5" xref="A1.E39Xa.2.1.1.m1.5.5.cmml"><mi id="A1.E39Xa.2.1.1.m1.5.5.3" xref="A1.E39Xa.2.1.1.m1.5.5.3.cmml"></mi><mo id="A1.E39Xa.2.1.1.m1.5.5.2" xref="A1.E39Xa.2.1.1.m1.5.5.2.cmml">=</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.cmml"><mi id="A1.E39Xa.2.1.1.m1.5.5.1.3" xref="A1.E39Xa.2.1.1.m1.5.5.1.3.cmml">ℙ</mi><mo id="A1.E39Xa.2.1.1.m1.5.5.1.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.2.cmml">⁢</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.2.cmml"><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.2.1.cmml">[</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.cmml"><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.2.cmml"><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.2.1.cmml">|</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml"><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml"><mi id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.2.cmml">μ</mi><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.3.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml"><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A1.E39Xa.2.1.1.m1.2.2" xref="A1.E39Xa.2.1.1.m1.2.2.cmml">X</mi><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml">−</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml"><msub id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.cmml"><mi id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2.cmml">μ</mi><mi id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.3" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.3.cmml">θ</mi></msub><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.1" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.3.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml"><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.3.2.1" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml">(</mo><mi id="A1.E39Xa.2.1.1.m1.3.3" xref="A1.E39Xa.2.1.1.m1.3.3.cmml">x</mi><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.3.2.2" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.3" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.2.1.cmml">|</mo></mrow><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.3" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.3.cmml">≥</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.cmml"><msqrt id="A1.E39Xa.2.1.1.m1.1.1" xref="A1.E39Xa.2.1.1.m1.1.1.cmml"><mstyle displaystyle="true" id="A1.E39Xa.2.1.1.m1.1.1.1" xref="A1.E39Xa.2.1.1.m1.1.1.1.cmml"><mfrac id="A1.E39Xa.2.1.1.m1.1.1.1a" xref="A1.E39Xa.2.1.1.m1.1.1.1.cmml"><mrow id="A1.E39Xa.2.1.1.m1.1.1.1.1.1" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.cmml"><msub id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.cmml"><mi id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.2" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.2.cmml">cov</mi><mi id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.3" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.3.cmml">θ</mi></msub><mo id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.2" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.4.2" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.cmml"><mo id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.4.2.1" stretchy="false" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.cmml">(</mo><mi id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.1" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.1.cmml">x</mi><mo id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.4.2.2" stretchy="false" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><mi id="A1.E39Xa.2.1.1.m1.1.1.1.3" xref="A1.E39Xa.2.1.1.m1.1.1.1.3.cmml">β</mi></mfrac></mstyle></msqrt><mo fence="false" id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.1" stretchy="true" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.1.cmml">|</mo><mi id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.2.cmml">X</mi></mrow><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.5" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.5.cmml">∈</mo><mrow id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.2" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.1.cmml"><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.2.1" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.1.1.cmml">[</mo><mi id="A1.E39Xa.2.1.1.m1.4.4" xref="A1.E39Xa.2.1.1.m1.4.4.cmml">x</mi><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.2.2" stretchy="false" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.1.1.cmml">]</mo></mrow></mrow><mo id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.3" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A1.E39Xa.2.1.1.m1.5b"><apply id="A1.E39Xa.2.1.1.m1.5.5.cmml" xref="A1.E39Xa.2.1.1.m1.5.5"><eq id="A1.E39Xa.2.1.1.m1.5.5.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.2"></eq><csymbol cd="latexml" id="A1.E39Xa.2.1.1.m1.5.5.3.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.3">absent</csymbol><apply id="A1.E39Xa.2.1.1.m1.5.5.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1"><times id="A1.E39Xa.2.1.1.m1.5.5.1.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.2"></times><ci id="A1.E39Xa.2.1.1.m1.5.5.1.3.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.3">ℙ</ci><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1"><csymbol cd="latexml" id="A1.E39Xa.2.1.1.m1.5.5.1.1.2.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.2">delimited-[]</csymbol><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1"><and id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1a.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1"></and><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1b.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1"><geq id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.3.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.3"></geq><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1"><abs id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.2.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2"></abs><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1"><minus id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1"></minus><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2"><times id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.1"></times><ci id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.2">𝜇</ci><ci id="A1.E39Xa.2.1.1.m1.2.2.cmml" xref="A1.E39Xa.2.1.1.m1.2.2">𝑋</ci></apply><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3"><times id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.1"></times><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2">subscript</csymbol><ci id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2">𝜇</ci><ci id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.3.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.3">𝜃</ci></apply><ci id="A1.E39Xa.2.1.1.m1.3.3.cmml" xref="A1.E39Xa.2.1.1.m1.3.3">𝑥</ci></apply></apply></apply><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4"><csymbol cd="latexml" id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.1">conditional</csymbol><apply id="A1.E39Xa.2.1.1.m1.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.1.1"><root id="A1.E39Xa.2.1.1.m1.1.1a.cmml" xref="A1.E39Xa.2.1.1.m1.1.1"></root><apply id="A1.E39Xa.2.1.1.m1.1.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1"><divide id="A1.E39Xa.2.1.1.m1.1.1.1.2.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1"></divide><apply id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1"><times id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.2.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.2"></times><apply id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.1.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3">subscript</csymbol><ci id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.2.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.2">cov</ci><ci id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.3.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.3.3">𝜃</ci></apply><ci id="A1.E39Xa.2.1.1.m1.1.1.1.1.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.1.1.1">𝑥</ci></apply><ci id="A1.E39Xa.2.1.1.m1.1.1.1.3.cmml" xref="A1.E39Xa.2.1.1.m1.1.1.1.3">𝛽</ci></apply></apply><ci id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.2.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.2">𝑋</ci></apply></apply><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1c.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1"><in id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.5.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.5"></in><share href="https://arxiv.org/html/2503.13317v1#A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.4.cmml" id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1d.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1"></share><apply id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.2"><csymbol cd="latexml" id="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.1.1.cmml" xref="A1.E39Xa.2.1.1.m1.5.5.1.1.1.1.6.2.1">delimited-[]</csymbol><ci id="A1.E39Xa.2.1.1.m1.4.4.cmml" xref="A1.E39Xa.2.1.1.m1.4.4">𝑥</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A1.E39Xa.2.1.1.m1.5c">\displaystyle=\mathbb{P}\left[|\mu(X)-\mu_{\theta}(x)|\geq\left.\sqrt{\frac{% \mathrm{cov}_{\theta}(x)}{\beta}}\right|X\in[x]\right]</annotation><annotation encoding="application/x-llamapun" id="A1.E39Xa.2.1.1.m1.5d">= blackboard_P [ | italic_μ ( italic_X ) - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) | ≥ square-root start_ARG divide start_ARG roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) end_ARG start_ARG italic_β end_ARG end_ARG | italic_X ∈ [ italic_x ] ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E39Xa.4.1.1.1">Thm. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A1.E39Xa.4.1.1.2"> and Thm. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A1.10.p1.7">∎</p> </div> </div> </section> <section class="ltx_appendix" id="A2"> <h2 class="ltx_title ltx_title_appendix"> <span class="ltx_tag ltx_tag_appendix">Appendix B </span>Variance calibration and distribution calibration</h2> <div class="ltx_para" id="A2.p1"> <p class="ltx_p" id="A2.p1.2">The notion of distribution calibration in regression can be, at best, difficult to check in practice. A more common notion of calibration is quantile calibration which, roughly speaking, demands that within an <math alttext="x" class="ltx_Math" display="inline" id="A2.p1.1.m1.1"><semantics id="A2.p1.1.m1.1a"><mi id="A2.p1.1.m1.1.1" xref="A2.p1.1.m1.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="A2.p1.1.m1.1b"><ci id="A2.p1.1.m1.1.1.cmml" xref="A2.p1.1.m1.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="A2.p1.1.m1.1c">x</annotation><annotation encoding="application/x-llamapun" id="A2.p1.1.m1.1d">italic_x</annotation></semantics></math>-percent confidence interval around the predicted mean one must find <math alttext="x" class="ltx_Math" display="inline" id="A2.p1.2.m2.1"><semantics id="A2.p1.2.m2.1a"><mi id="A2.p1.2.m2.1.1" xref="A2.p1.2.m2.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="A2.p1.2.m2.1b"><ci id="A2.p1.2.m2.1.1.cmml" xref="A2.p1.2.m2.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="A2.p1.2.m2.1c">x</annotation><annotation encoding="application/x-llamapun" id="A2.p1.2.m2.1d">italic_x</annotation></semantics></math>-percent of the true data points. While this notion of calibration is intuitive and easy to check in practice, it has the disadvantage that it averages over the entire dataset. It is possible to construct models that predict very poorly the true distribution, and yet are quantile calibrated. In <cite class="ltx_cite ltx_citemacro_citep">(Levi et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib10" title="">2022</a>)</cite>, the authors propose the notion of variance calibration as:</p> <table class="ltx_equation ltx_eqn_table" id="A2.E40"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\sigma^{2}_{\theta}(x)=\mathbb{E}[(\mu_{\theta}(X)-Y)^{2}|[x]_{\sigma}]" class="ltx_Math" display="block" id="A2.E40.m1.4"><semantics id="A2.E40.m1.4a"><mrow id="A2.E40.m1.4.4" xref="A2.E40.m1.4.4.cmml"><mrow id="A2.E40.m1.4.4.3" xref="A2.E40.m1.4.4.3.cmml"><msubsup id="A2.E40.m1.4.4.3.2" xref="A2.E40.m1.4.4.3.2.cmml"><mi id="A2.E40.m1.4.4.3.2.2.2" xref="A2.E40.m1.4.4.3.2.2.2.cmml">σ</mi><mi id="A2.E40.m1.4.4.3.2.3" xref="A2.E40.m1.4.4.3.2.3.cmml">θ</mi><mn id="A2.E40.m1.4.4.3.2.2.3" xref="A2.E40.m1.4.4.3.2.2.3.cmml">2</mn></msubsup><mo id="A2.E40.m1.4.4.3.1" xref="A2.E40.m1.4.4.3.1.cmml">⁢</mo><mrow id="A2.E40.m1.4.4.3.3.2" xref="A2.E40.m1.4.4.3.cmml"><mo id="A2.E40.m1.4.4.3.3.2.1" stretchy="false" xref="A2.E40.m1.4.4.3.cmml">(</mo><mi id="A2.E40.m1.1.1" xref="A2.E40.m1.1.1.cmml">x</mi><mo id="A2.E40.m1.4.4.3.3.2.2" stretchy="false" xref="A2.E40.m1.4.4.3.cmml">)</mo></mrow></mrow><mo id="A2.E40.m1.4.4.2" xref="A2.E40.m1.4.4.2.cmml">=</mo><mrow id="A2.E40.m1.4.4.1" xref="A2.E40.m1.4.4.1.cmml"><mi id="A2.E40.m1.4.4.1.3" xref="A2.E40.m1.4.4.1.3.cmml">𝔼</mi><mo id="A2.E40.m1.4.4.1.2" xref="A2.E40.m1.4.4.1.2.cmml">⁢</mo><mrow id="A2.E40.m1.4.4.1.1.1" xref="A2.E40.m1.4.4.1.1.2.cmml"><mo id="A2.E40.m1.4.4.1.1.1.2" stretchy="false" xref="A2.E40.m1.4.4.1.1.2.1.cmml">[</mo><mrow id="A2.E40.m1.4.4.1.1.1.1" xref="A2.E40.m1.4.4.1.1.1.1.cmml"><msup id="A2.E40.m1.4.4.1.1.1.1.1" xref="A2.E40.m1.4.4.1.1.1.1.1.cmml"><mrow id="A2.E40.m1.4.4.1.1.1.1.1.1.1" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mo id="A2.E40.m1.4.4.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.cmml"><msub id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.cmml"><mi id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.2" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.2.cmml">μ</mi><mi id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.3" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.1" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.3.2" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A2.E40.m1.2.2" xref="A2.E40.m1.2.2.cmml">X</mi><mo id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.1" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.1.cmml">−</mo><mi id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.3" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.3.cmml">Y</mi></mrow><mo id="A2.E40.m1.4.4.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mn id="A2.E40.m1.4.4.1.1.1.1.1.3" xref="A2.E40.m1.4.4.1.1.1.1.1.3.cmml">2</mn></msup><mo fence="false" id="A2.E40.m1.4.4.1.1.1.1.2" xref="A2.E40.m1.4.4.1.1.1.1.2.cmml">|</mo><msub id="A2.E40.m1.4.4.1.1.1.1.3" xref="A2.E40.m1.4.4.1.1.1.1.3.cmml"><mrow id="A2.E40.m1.4.4.1.1.1.1.3.2.2" xref="A2.E40.m1.4.4.1.1.1.1.3.2.1.cmml"><mo id="A2.E40.m1.4.4.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E40.m1.4.4.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E40.m1.3.3" xref="A2.E40.m1.3.3.cmml">x</mi><mo id="A2.E40.m1.4.4.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E40.m1.4.4.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E40.m1.4.4.1.1.1.1.3.3" xref="A2.E40.m1.4.4.1.1.1.1.3.3.cmml">σ</mi></msub></mrow><mo id="A2.E40.m1.4.4.1.1.1.3" stretchy="false" xref="A2.E40.m1.4.4.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E40.m1.4b"><apply id="A2.E40.m1.4.4.cmml" xref="A2.E40.m1.4.4"><eq id="A2.E40.m1.4.4.2.cmml" xref="A2.E40.m1.4.4.2"></eq><apply id="A2.E40.m1.4.4.3.cmml" xref="A2.E40.m1.4.4.3"><times id="A2.E40.m1.4.4.3.1.cmml" xref="A2.E40.m1.4.4.3.1"></times><apply id="A2.E40.m1.4.4.3.2.cmml" xref="A2.E40.m1.4.4.3.2"><csymbol cd="ambiguous" id="A2.E40.m1.4.4.3.2.1.cmml" xref="A2.E40.m1.4.4.3.2">subscript</csymbol><apply id="A2.E40.m1.4.4.3.2.2.cmml" xref="A2.E40.m1.4.4.3.2"><csymbol cd="ambiguous" id="A2.E40.m1.4.4.3.2.2.1.cmml" xref="A2.E40.m1.4.4.3.2">superscript</csymbol><ci id="A2.E40.m1.4.4.3.2.2.2.cmml" xref="A2.E40.m1.4.4.3.2.2.2">𝜎</ci><cn id="A2.E40.m1.4.4.3.2.2.3.cmml" type="integer" xref="A2.E40.m1.4.4.3.2.2.3">2</cn></apply><ci id="A2.E40.m1.4.4.3.2.3.cmml" xref="A2.E40.m1.4.4.3.2.3">𝜃</ci></apply><ci id="A2.E40.m1.1.1.cmml" xref="A2.E40.m1.1.1">𝑥</ci></apply><apply id="A2.E40.m1.4.4.1.cmml" xref="A2.E40.m1.4.4.1"><times id="A2.E40.m1.4.4.1.2.cmml" xref="A2.E40.m1.4.4.1.2"></times><ci id="A2.E40.m1.4.4.1.3.cmml" xref="A2.E40.m1.4.4.1.3">𝔼</ci><apply id="A2.E40.m1.4.4.1.1.2.cmml" xref="A2.E40.m1.4.4.1.1.1"><csymbol cd="latexml" id="A2.E40.m1.4.4.1.1.2.1.cmml" xref="A2.E40.m1.4.4.1.1.1.2">delimited-[]</csymbol><apply id="A2.E40.m1.4.4.1.1.1.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1"><csymbol cd="latexml" id="A2.E40.m1.4.4.1.1.1.1.2.cmml" xref="A2.E40.m1.4.4.1.1.1.1.2">conditional</csymbol><apply id="A2.E40.m1.4.4.1.1.1.1.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1"><csymbol cd="ambiguous" id="A2.E40.m1.4.4.1.1.1.1.1.2.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1">superscript</csymbol><apply id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1"><minus id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.1"></minus><apply id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2"><times id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.1"></times><apply id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.2.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.2">𝜇</ci><ci id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.3.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.2.2.3">𝜃</ci></apply><ci id="A2.E40.m1.2.2.cmml" xref="A2.E40.m1.2.2">𝑋</ci></apply><ci id="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E40.m1.4.4.1.1.1.1.1.1.1.1.3">𝑌</ci></apply><cn id="A2.E40.m1.4.4.1.1.1.1.1.3.cmml" type="integer" xref="A2.E40.m1.4.4.1.1.1.1.1.3">2</cn></apply><apply id="A2.E40.m1.4.4.1.1.1.1.3.cmml" xref="A2.E40.m1.4.4.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E40.m1.4.4.1.1.1.1.3.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.3">subscript</csymbol><apply id="A2.E40.m1.4.4.1.1.1.1.3.2.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E40.m1.4.4.1.1.1.1.3.2.1.1.cmml" xref="A2.E40.m1.4.4.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E40.m1.3.3.cmml" xref="A2.E40.m1.3.3">𝑥</ci></apply><ci id="A2.E40.m1.4.4.1.1.1.1.3.3.cmml" xref="A2.E40.m1.4.4.1.1.1.1.3.3">𝜎</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E40.m1.4c">\sigma^{2}_{\theta}(x)=\mathbb{E}[(\mu_{\theta}(X)-Y)^{2}|[x]_{\sigma}]</annotation><annotation encoding="application/x-llamapun" id="A2.E40.m1.4d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = blackboard_E [ ( italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) - italic_Y ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | [ italic_x ] start_POSTSUBSCRIPT italic_σ end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(40)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A2.p1.5">where the equivalence class is <math alttext="[x]_{\sigma}=\{x^{\prime}\in\mathcal{X}\;|\;\sigma_{\theta}^{2}(x^{\prime})=% \sigma_{\theta}^{2}(x)\}" class="ltx_Math" display="inline" id="A2.p1.3.m1.4"><semantics id="A2.p1.3.m1.4a"><mrow id="A2.p1.3.m1.4.4" xref="A2.p1.3.m1.4.4.cmml"><msub id="A2.p1.3.m1.4.4.4" xref="A2.p1.3.m1.4.4.4.cmml"><mrow id="A2.p1.3.m1.4.4.4.2.2" xref="A2.p1.3.m1.4.4.4.2.1.cmml"><mo id="A2.p1.3.m1.4.4.4.2.2.1" stretchy="false" xref="A2.p1.3.m1.4.4.4.2.1.1.cmml">[</mo><mi id="A2.p1.3.m1.1.1" xref="A2.p1.3.m1.1.1.cmml">x</mi><mo id="A2.p1.3.m1.4.4.4.2.2.2" stretchy="false" xref="A2.p1.3.m1.4.4.4.2.1.1.cmml">]</mo></mrow><mi id="A2.p1.3.m1.4.4.4.3" xref="A2.p1.3.m1.4.4.4.3.cmml">σ</mi></msub><mo id="A2.p1.3.m1.4.4.3" xref="A2.p1.3.m1.4.4.3.cmml">=</mo><mrow id="A2.p1.3.m1.4.4.2.2" xref="A2.p1.3.m1.4.4.2.3.cmml"><mo id="A2.p1.3.m1.4.4.2.2.3" stretchy="false" xref="A2.p1.3.m1.4.4.2.3.1.cmml">{</mo><mrow id="A2.p1.3.m1.3.3.1.1.1" xref="A2.p1.3.m1.3.3.1.1.1.cmml"><msup id="A2.p1.3.m1.3.3.1.1.1.2" xref="A2.p1.3.m1.3.3.1.1.1.2.cmml"><mi id="A2.p1.3.m1.3.3.1.1.1.2.2" xref="A2.p1.3.m1.3.3.1.1.1.2.2.cmml">x</mi><mo id="A2.p1.3.m1.3.3.1.1.1.2.3" xref="A2.p1.3.m1.3.3.1.1.1.2.3.cmml">′</mo></msup><mo id="A2.p1.3.m1.3.3.1.1.1.1" xref="A2.p1.3.m1.3.3.1.1.1.1.cmml">∈</mo><mi class="ltx_font_mathcaligraphic" id="A2.p1.3.m1.3.3.1.1.1.3" xref="A2.p1.3.m1.3.3.1.1.1.3.cmml">𝒳</mi></mrow><mo id="A2.p1.3.m1.4.4.2.2.4" xref="A2.p1.3.m1.4.4.2.3.1.cmml">|</mo><mrow id="A2.p1.3.m1.4.4.2.2.2" xref="A2.p1.3.m1.4.4.2.2.2.cmml"><mrow id="A2.p1.3.m1.4.4.2.2.2.1" xref="A2.p1.3.m1.4.4.2.2.2.1.cmml"><msubsup id="A2.p1.3.m1.4.4.2.2.2.1.3" xref="A2.p1.3.m1.4.4.2.2.2.1.3.cmml"><mi id="A2.p1.3.m1.4.4.2.2.2.1.3.2.2" xref="A2.p1.3.m1.4.4.2.2.2.1.3.2.2.cmml">σ</mi><mi id="A2.p1.3.m1.4.4.2.2.2.1.3.2.3" xref="A2.p1.3.m1.4.4.2.2.2.1.3.2.3.cmml">θ</mi><mn id="A2.p1.3.m1.4.4.2.2.2.1.3.3" xref="A2.p1.3.m1.4.4.2.2.2.1.3.3.cmml">2</mn></msubsup><mo id="A2.p1.3.m1.4.4.2.2.2.1.2" xref="A2.p1.3.m1.4.4.2.2.2.1.2.cmml">⁢</mo><mrow id="A2.p1.3.m1.4.4.2.2.2.1.1.1" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.cmml"><mo id="A2.p1.3.m1.4.4.2.2.2.1.1.1.2" stretchy="false" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.cmml">(</mo><msup id="A2.p1.3.m1.4.4.2.2.2.1.1.1.1" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.cmml"><mi id="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.2" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.2.cmml">x</mi><mo id="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.3" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.3.cmml">′</mo></msup><mo id="A2.p1.3.m1.4.4.2.2.2.1.1.1.3" stretchy="false" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A2.p1.3.m1.4.4.2.2.2.2" xref="A2.p1.3.m1.4.4.2.2.2.2.cmml">=</mo><mrow id="A2.p1.3.m1.4.4.2.2.2.3" xref="A2.p1.3.m1.4.4.2.2.2.3.cmml"><msubsup id="A2.p1.3.m1.4.4.2.2.2.3.2" xref="A2.p1.3.m1.4.4.2.2.2.3.2.cmml"><mi id="A2.p1.3.m1.4.4.2.2.2.3.2.2.2" xref="A2.p1.3.m1.4.4.2.2.2.3.2.2.2.cmml">σ</mi><mi id="A2.p1.3.m1.4.4.2.2.2.3.2.2.3" xref="A2.p1.3.m1.4.4.2.2.2.3.2.2.3.cmml">θ</mi><mn id="A2.p1.3.m1.4.4.2.2.2.3.2.3" xref="A2.p1.3.m1.4.4.2.2.2.3.2.3.cmml">2</mn></msubsup><mo id="A2.p1.3.m1.4.4.2.2.2.3.1" xref="A2.p1.3.m1.4.4.2.2.2.3.1.cmml">⁢</mo><mrow id="A2.p1.3.m1.4.4.2.2.2.3.3.2" xref="A2.p1.3.m1.4.4.2.2.2.3.cmml"><mo id="A2.p1.3.m1.4.4.2.2.2.3.3.2.1" stretchy="false" xref="A2.p1.3.m1.4.4.2.2.2.3.cmml">(</mo><mi id="A2.p1.3.m1.2.2" xref="A2.p1.3.m1.2.2.cmml">x</mi><mo id="A2.p1.3.m1.4.4.2.2.2.3.3.2.2" stretchy="false" xref="A2.p1.3.m1.4.4.2.2.2.3.cmml">)</mo></mrow></mrow></mrow><mo id="A2.p1.3.m1.4.4.2.2.5" stretchy="false" xref="A2.p1.3.m1.4.4.2.3.1.cmml">}</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.p1.3.m1.4b"><apply id="A2.p1.3.m1.4.4.cmml" xref="A2.p1.3.m1.4.4"><eq id="A2.p1.3.m1.4.4.3.cmml" xref="A2.p1.3.m1.4.4.3"></eq><apply id="A2.p1.3.m1.4.4.4.cmml" xref="A2.p1.3.m1.4.4.4"><csymbol cd="ambiguous" id="A2.p1.3.m1.4.4.4.1.cmml" xref="A2.p1.3.m1.4.4.4">subscript</csymbol><apply id="A2.p1.3.m1.4.4.4.2.1.cmml" xref="A2.p1.3.m1.4.4.4.2.2"><csymbol cd="latexml" id="A2.p1.3.m1.4.4.4.2.1.1.cmml" xref="A2.p1.3.m1.4.4.4.2.2.1">delimited-[]</csymbol><ci id="A2.p1.3.m1.1.1.cmml" xref="A2.p1.3.m1.1.1">𝑥</ci></apply><ci id="A2.p1.3.m1.4.4.4.3.cmml" xref="A2.p1.3.m1.4.4.4.3">𝜎</ci></apply><apply id="A2.p1.3.m1.4.4.2.3.cmml" xref="A2.p1.3.m1.4.4.2.2"><csymbol cd="latexml" id="A2.p1.3.m1.4.4.2.3.1.cmml" xref="A2.p1.3.m1.4.4.2.2.3">conditional-set</csymbol><apply id="A2.p1.3.m1.3.3.1.1.1.cmml" xref="A2.p1.3.m1.3.3.1.1.1"><in id="A2.p1.3.m1.3.3.1.1.1.1.cmml" xref="A2.p1.3.m1.3.3.1.1.1.1"></in><apply id="A2.p1.3.m1.3.3.1.1.1.2.cmml" xref="A2.p1.3.m1.3.3.1.1.1.2"><csymbol cd="ambiguous" id="A2.p1.3.m1.3.3.1.1.1.2.1.cmml" xref="A2.p1.3.m1.3.3.1.1.1.2">superscript</csymbol><ci id="A2.p1.3.m1.3.3.1.1.1.2.2.cmml" xref="A2.p1.3.m1.3.3.1.1.1.2.2">𝑥</ci><ci id="A2.p1.3.m1.3.3.1.1.1.2.3.cmml" xref="A2.p1.3.m1.3.3.1.1.1.2.3">′</ci></apply><ci id="A2.p1.3.m1.3.3.1.1.1.3.cmml" xref="A2.p1.3.m1.3.3.1.1.1.3">𝒳</ci></apply><apply id="A2.p1.3.m1.4.4.2.2.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2"><eq id="A2.p1.3.m1.4.4.2.2.2.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.2"></eq><apply id="A2.p1.3.m1.4.4.2.2.2.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1"><times id="A2.p1.3.m1.4.4.2.2.2.1.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.2"></times><apply id="A2.p1.3.m1.4.4.2.2.2.1.3.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.3"><csymbol cd="ambiguous" id="A2.p1.3.m1.4.4.2.2.2.1.3.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.3">superscript</csymbol><apply id="A2.p1.3.m1.4.4.2.2.2.1.3.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.3"><csymbol cd="ambiguous" id="A2.p1.3.m1.4.4.2.2.2.1.3.2.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.3">subscript</csymbol><ci id="A2.p1.3.m1.4.4.2.2.2.1.3.2.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.3.2.2">𝜎</ci><ci id="A2.p1.3.m1.4.4.2.2.2.1.3.2.3.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.3.2.3">𝜃</ci></apply><cn id="A2.p1.3.m1.4.4.2.2.2.1.3.3.cmml" type="integer" xref="A2.p1.3.m1.4.4.2.2.2.1.3.3">2</cn></apply><apply id="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1"><csymbol cd="ambiguous" id="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1">superscript</csymbol><ci id="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.2">𝑥</ci><ci id="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.3.cmml" xref="A2.p1.3.m1.4.4.2.2.2.1.1.1.1.3">′</ci></apply></apply><apply id="A2.p1.3.m1.4.4.2.2.2.3.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3"><times id="A2.p1.3.m1.4.4.2.2.2.3.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3.1"></times><apply id="A2.p1.3.m1.4.4.2.2.2.3.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3.2"><csymbol cd="ambiguous" id="A2.p1.3.m1.4.4.2.2.2.3.2.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3.2">superscript</csymbol><apply id="A2.p1.3.m1.4.4.2.2.2.3.2.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3.2"><csymbol cd="ambiguous" id="A2.p1.3.m1.4.4.2.2.2.3.2.2.1.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3.2">subscript</csymbol><ci id="A2.p1.3.m1.4.4.2.2.2.3.2.2.2.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3.2.2.2">𝜎</ci><ci id="A2.p1.3.m1.4.4.2.2.2.3.2.2.3.cmml" xref="A2.p1.3.m1.4.4.2.2.2.3.2.2.3">𝜃</ci></apply><cn id="A2.p1.3.m1.4.4.2.2.2.3.2.3.cmml" type="integer" xref="A2.p1.3.m1.4.4.2.2.2.3.2.3">2</cn></apply><ci id="A2.p1.3.m1.2.2.cmml" xref="A2.p1.3.m1.2.2">𝑥</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p1.3.m1.4c">[x]_{\sigma}=\{x^{\prime}\in\mathcal{X}\;|\;\sigma_{\theta}^{2}(x^{\prime})=% \sigma_{\theta}^{2}(x)\}</annotation><annotation encoding="application/x-llamapun" id="A2.p1.3.m1.4d">[ italic_x ] start_POSTSUBSCRIPT italic_σ end_POSTSUBSCRIPT = { italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ∈ caligraphic_X | italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) = italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) }</annotation></semantics></math>. While this definition is stronger than quantile calibration, it has the disadvantage that it allows the model to explain away its errors using its variance. Even a model that only predicts <math alttext="\mu_{\theta}\equiv 0" class="ltx_Math" display="inline" id="A2.p1.4.m2.1"><semantics id="A2.p1.4.m2.1a"><mrow id="A2.p1.4.m2.1.1" xref="A2.p1.4.m2.1.1.cmml"><msub id="A2.p1.4.m2.1.1.2" xref="A2.p1.4.m2.1.1.2.cmml"><mi id="A2.p1.4.m2.1.1.2.2" xref="A2.p1.4.m2.1.1.2.2.cmml">μ</mi><mi id="A2.p1.4.m2.1.1.2.3" xref="A2.p1.4.m2.1.1.2.3.cmml">θ</mi></msub><mo id="A2.p1.4.m2.1.1.1" xref="A2.p1.4.m2.1.1.1.cmml">≡</mo><mn id="A2.p1.4.m2.1.1.3" xref="A2.p1.4.m2.1.1.3.cmml">0</mn></mrow><annotation-xml encoding="MathML-Content" id="A2.p1.4.m2.1b"><apply id="A2.p1.4.m2.1.1.cmml" xref="A2.p1.4.m2.1.1"><equivalent id="A2.p1.4.m2.1.1.1.cmml" xref="A2.p1.4.m2.1.1.1"></equivalent><apply id="A2.p1.4.m2.1.1.2.cmml" xref="A2.p1.4.m2.1.1.2"><csymbol cd="ambiguous" id="A2.p1.4.m2.1.1.2.1.cmml" xref="A2.p1.4.m2.1.1.2">subscript</csymbol><ci id="A2.p1.4.m2.1.1.2.2.cmml" xref="A2.p1.4.m2.1.1.2.2">𝜇</ci><ci id="A2.p1.4.m2.1.1.2.3.cmml" xref="A2.p1.4.m2.1.1.2.3">𝜃</ci></apply><cn id="A2.p1.4.m2.1.1.3.cmml" type="integer" xref="A2.p1.4.m2.1.1.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p1.4.m2.1c">\mu_{\theta}\equiv 0</annotation><annotation encoding="application/x-llamapun" id="A2.p1.4.m2.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ≡ 0</annotation></semantics></math> can be perfectly calibrated in the sense of Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2.E40" title="Equation 40 ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">40</span></a>), by setting <math alttext="\sigma_{\theta}(x)=\mathbb{E}[Y^{2}|[x]_{\sigma}]" class="ltx_Math" display="inline" id="A2.p1.5.m3.3"><semantics id="A2.p1.5.m3.3a"><mrow id="A2.p1.5.m3.3.3" xref="A2.p1.5.m3.3.3.cmml"><mrow id="A2.p1.5.m3.3.3.3" xref="A2.p1.5.m3.3.3.3.cmml"><msub id="A2.p1.5.m3.3.3.3.2" xref="A2.p1.5.m3.3.3.3.2.cmml"><mi id="A2.p1.5.m3.3.3.3.2.2" xref="A2.p1.5.m3.3.3.3.2.2.cmml">σ</mi><mi id="A2.p1.5.m3.3.3.3.2.3" xref="A2.p1.5.m3.3.3.3.2.3.cmml">θ</mi></msub><mo id="A2.p1.5.m3.3.3.3.1" xref="A2.p1.5.m3.3.3.3.1.cmml">⁢</mo><mrow id="A2.p1.5.m3.3.3.3.3.2" xref="A2.p1.5.m3.3.3.3.cmml"><mo id="A2.p1.5.m3.3.3.3.3.2.1" stretchy="false" xref="A2.p1.5.m3.3.3.3.cmml">(</mo><mi id="A2.p1.5.m3.1.1" xref="A2.p1.5.m3.1.1.cmml">x</mi><mo id="A2.p1.5.m3.3.3.3.3.2.2" stretchy="false" xref="A2.p1.5.m3.3.3.3.cmml">)</mo></mrow></mrow><mo id="A2.p1.5.m3.3.3.2" xref="A2.p1.5.m3.3.3.2.cmml">=</mo><mrow id="A2.p1.5.m3.3.3.1" xref="A2.p1.5.m3.3.3.1.cmml"><mi id="A2.p1.5.m3.3.3.1.3" xref="A2.p1.5.m3.3.3.1.3.cmml">𝔼</mi><mo id="A2.p1.5.m3.3.3.1.2" xref="A2.p1.5.m3.3.3.1.2.cmml">⁢</mo><mrow id="A2.p1.5.m3.3.3.1.1.1" xref="A2.p1.5.m3.3.3.1.1.2.cmml"><mo id="A2.p1.5.m3.3.3.1.1.1.2" stretchy="false" xref="A2.p1.5.m3.3.3.1.1.2.1.cmml">[</mo><mrow id="A2.p1.5.m3.3.3.1.1.1.1" xref="A2.p1.5.m3.3.3.1.1.1.1.cmml"><msup id="A2.p1.5.m3.3.3.1.1.1.1.2" xref="A2.p1.5.m3.3.3.1.1.1.1.2.cmml"><mi id="A2.p1.5.m3.3.3.1.1.1.1.2.2" xref="A2.p1.5.m3.3.3.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.p1.5.m3.3.3.1.1.1.1.2.3" xref="A2.p1.5.m3.3.3.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A2.p1.5.m3.3.3.1.1.1.1.1" xref="A2.p1.5.m3.3.3.1.1.1.1.1.cmml">|</mo><msub id="A2.p1.5.m3.3.3.1.1.1.1.3" xref="A2.p1.5.m3.3.3.1.1.1.1.3.cmml"><mrow id="A2.p1.5.m3.3.3.1.1.1.1.3.2.2" xref="A2.p1.5.m3.3.3.1.1.1.1.3.2.1.cmml"><mo id="A2.p1.5.m3.3.3.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.p1.5.m3.3.3.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.p1.5.m3.2.2" xref="A2.p1.5.m3.2.2.cmml">x</mi><mo id="A2.p1.5.m3.3.3.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.p1.5.m3.3.3.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.p1.5.m3.3.3.1.1.1.1.3.3" xref="A2.p1.5.m3.3.3.1.1.1.1.3.3.cmml">σ</mi></msub></mrow><mo id="A2.p1.5.m3.3.3.1.1.1.3" stretchy="false" xref="A2.p1.5.m3.3.3.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.p1.5.m3.3b"><apply id="A2.p1.5.m3.3.3.cmml" xref="A2.p1.5.m3.3.3"><eq id="A2.p1.5.m3.3.3.2.cmml" xref="A2.p1.5.m3.3.3.2"></eq><apply id="A2.p1.5.m3.3.3.3.cmml" xref="A2.p1.5.m3.3.3.3"><times id="A2.p1.5.m3.3.3.3.1.cmml" xref="A2.p1.5.m3.3.3.3.1"></times><apply id="A2.p1.5.m3.3.3.3.2.cmml" xref="A2.p1.5.m3.3.3.3.2"><csymbol cd="ambiguous" id="A2.p1.5.m3.3.3.3.2.1.cmml" xref="A2.p1.5.m3.3.3.3.2">subscript</csymbol><ci id="A2.p1.5.m3.3.3.3.2.2.cmml" xref="A2.p1.5.m3.3.3.3.2.2">𝜎</ci><ci id="A2.p1.5.m3.3.3.3.2.3.cmml" xref="A2.p1.5.m3.3.3.3.2.3">𝜃</ci></apply><ci id="A2.p1.5.m3.1.1.cmml" xref="A2.p1.5.m3.1.1">𝑥</ci></apply><apply id="A2.p1.5.m3.3.3.1.cmml" xref="A2.p1.5.m3.3.3.1"><times id="A2.p1.5.m3.3.3.1.2.cmml" xref="A2.p1.5.m3.3.3.1.2"></times><ci id="A2.p1.5.m3.3.3.1.3.cmml" xref="A2.p1.5.m3.3.3.1.3">𝔼</ci><apply id="A2.p1.5.m3.3.3.1.1.2.cmml" xref="A2.p1.5.m3.3.3.1.1.1"><csymbol cd="latexml" id="A2.p1.5.m3.3.3.1.1.2.1.cmml" xref="A2.p1.5.m3.3.3.1.1.1.2">delimited-[]</csymbol><apply id="A2.p1.5.m3.3.3.1.1.1.1.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.p1.5.m3.3.3.1.1.1.1.1.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.1">conditional</csymbol><apply id="A2.p1.5.m3.3.3.1.1.1.1.2.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.p1.5.m3.3.3.1.1.1.1.2.1.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.2">superscript</csymbol><ci id="A2.p1.5.m3.3.3.1.1.1.1.2.2.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.2.2">𝑌</ci><cn id="A2.p1.5.m3.3.3.1.1.1.1.2.3.cmml" type="integer" xref="A2.p1.5.m3.3.3.1.1.1.1.2.3">2</cn></apply><apply id="A2.p1.5.m3.3.3.1.1.1.1.3.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.p1.5.m3.3.3.1.1.1.1.3.1.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.3">subscript</csymbol><apply id="A2.p1.5.m3.3.3.1.1.1.1.3.2.1.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.p1.5.m3.3.3.1.1.1.1.3.2.1.1.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.p1.5.m3.2.2.cmml" xref="A2.p1.5.m3.2.2">𝑥</ci></apply><ci id="A2.p1.5.m3.3.3.1.1.1.1.3.3.cmml" xref="A2.p1.5.m3.3.3.1.1.1.1.3.3">𝜎</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p1.5.m3.3c">\sigma_{\theta}(x)=\mathbb{E}[Y^{2}|[x]_{\sigma}]</annotation><annotation encoding="application/x-llamapun" id="A2.p1.5.m3.3d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = blackboard_E [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | [ italic_x ] start_POSTSUBSCRIPT italic_σ end_POSTSUBSCRIPT ]</annotation></semantics></math>. It seems natural, then, to include the prediction of the mean in the definition of calibration, which gives the following definition:</p> </div> <div class="ltx_theorem ltx_theorem_definition" id="A2.Thmtheorem1"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem1.1.1.1">Definition B.1</span></span><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem1.2.2">.</span> </h6> <div class="ltx_para" id="A2.Thmtheorem1.p1"> <p class="ltx_p" id="A2.Thmtheorem1.p1.3">A model <math alttext="p_{\theta}(Y|X)" class="ltx_Math" display="inline" id="A2.Thmtheorem1.p1.1.m1.1"><semantics id="A2.Thmtheorem1.p1.1.m1.1a"><mrow id="A2.Thmtheorem1.p1.1.m1.1.1" xref="A2.Thmtheorem1.p1.1.m1.1.1.cmml"><msub id="A2.Thmtheorem1.p1.1.m1.1.1.3" xref="A2.Thmtheorem1.p1.1.m1.1.1.3.cmml"><mi id="A2.Thmtheorem1.p1.1.m1.1.1.3.2" xref="A2.Thmtheorem1.p1.1.m1.1.1.3.2.cmml">p</mi><mi id="A2.Thmtheorem1.p1.1.m1.1.1.3.3" xref="A2.Thmtheorem1.p1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem1.p1.1.m1.1.1.2" xref="A2.Thmtheorem1.p1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A2.Thmtheorem1.p1.1.m1.1.1.1.1" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.cmml"><mo id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.2" stretchy="false" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.cmml"><mi id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.2" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.1" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.3" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.3" stretchy="false" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem1.p1.1.m1.1b"><apply id="A2.Thmtheorem1.p1.1.m1.1.1.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1"><times id="A2.Thmtheorem1.p1.1.m1.1.1.2.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.2"></times><apply id="A2.Thmtheorem1.p1.1.m1.1.1.3.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.1.m1.1.1.3.1.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.3">subscript</csymbol><ci id="A2.Thmtheorem1.p1.1.m1.1.1.3.2.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.3.2">𝑝</ci><ci id="A2.Thmtheorem1.p1.1.m1.1.1.3.3.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.2.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.2">𝑌</ci><ci id="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.3.cmml" xref="A2.Thmtheorem1.p1.1.m1.1.1.1.1.1.3">𝑋</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem1.p1.1.m1.1c">p_{\theta}(Y|X)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem1.p1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y | italic_X )</annotation></semantics></math> is said to be strongly variance calibrated if its mean <math alttext="\mu_{\theta}(x)" class="ltx_Math" display="inline" id="A2.Thmtheorem1.p1.2.m2.1"><semantics id="A2.Thmtheorem1.p1.2.m2.1a"><mrow id="A2.Thmtheorem1.p1.2.m2.1.2" xref="A2.Thmtheorem1.p1.2.m2.1.2.cmml"><msub id="A2.Thmtheorem1.p1.2.m2.1.2.2" xref="A2.Thmtheorem1.p1.2.m2.1.2.2.cmml"><mi id="A2.Thmtheorem1.p1.2.m2.1.2.2.2" xref="A2.Thmtheorem1.p1.2.m2.1.2.2.2.cmml">μ</mi><mi id="A2.Thmtheorem1.p1.2.m2.1.2.2.3" xref="A2.Thmtheorem1.p1.2.m2.1.2.2.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem1.p1.2.m2.1.2.1" xref="A2.Thmtheorem1.p1.2.m2.1.2.1.cmml">⁢</mo><mrow id="A2.Thmtheorem1.p1.2.m2.1.2.3.2" xref="A2.Thmtheorem1.p1.2.m2.1.2.cmml"><mo id="A2.Thmtheorem1.p1.2.m2.1.2.3.2.1" stretchy="false" xref="A2.Thmtheorem1.p1.2.m2.1.2.cmml">(</mo><mi id="A2.Thmtheorem1.p1.2.m2.1.1" xref="A2.Thmtheorem1.p1.2.m2.1.1.cmml">x</mi><mo id="A2.Thmtheorem1.p1.2.m2.1.2.3.2.2" stretchy="false" xref="A2.Thmtheorem1.p1.2.m2.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem1.p1.2.m2.1b"><apply id="A2.Thmtheorem1.p1.2.m2.1.2.cmml" xref="A2.Thmtheorem1.p1.2.m2.1.2"><times id="A2.Thmtheorem1.p1.2.m2.1.2.1.cmml" xref="A2.Thmtheorem1.p1.2.m2.1.2.1"></times><apply id="A2.Thmtheorem1.p1.2.m2.1.2.2.cmml" xref="A2.Thmtheorem1.p1.2.m2.1.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.2.m2.1.2.2.1.cmml" xref="A2.Thmtheorem1.p1.2.m2.1.2.2">subscript</csymbol><ci id="A2.Thmtheorem1.p1.2.m2.1.2.2.2.cmml" xref="A2.Thmtheorem1.p1.2.m2.1.2.2.2">𝜇</ci><ci id="A2.Thmtheorem1.p1.2.m2.1.2.2.3.cmml" xref="A2.Thmtheorem1.p1.2.m2.1.2.2.3">𝜃</ci></apply><ci id="A2.Thmtheorem1.p1.2.m2.1.1.cmml" xref="A2.Thmtheorem1.p1.2.m2.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem1.p1.2.m2.1c">\mu_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem1.p1.2.m2.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math> and variance <math alttext="\sigma_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="A2.Thmtheorem1.p1.3.m3.1"><semantics id="A2.Thmtheorem1.p1.3.m3.1a"><mrow id="A2.Thmtheorem1.p1.3.m3.1.2" xref="A2.Thmtheorem1.p1.3.m3.1.2.cmml"><msubsup id="A2.Thmtheorem1.p1.3.m3.1.2.2" xref="A2.Thmtheorem1.p1.3.m3.1.2.2.cmml"><mi id="A2.Thmtheorem1.p1.3.m3.1.2.2.2.2" xref="A2.Thmtheorem1.p1.3.m3.1.2.2.2.2.cmml">σ</mi><mi id="A2.Thmtheorem1.p1.3.m3.1.2.2.2.3" xref="A2.Thmtheorem1.p1.3.m3.1.2.2.2.3.cmml">θ</mi><mn id="A2.Thmtheorem1.p1.3.m3.1.2.2.3" xref="A2.Thmtheorem1.p1.3.m3.1.2.2.3.cmml">2</mn></msubsup><mo id="A2.Thmtheorem1.p1.3.m3.1.2.1" xref="A2.Thmtheorem1.p1.3.m3.1.2.1.cmml">⁢</mo><mrow id="A2.Thmtheorem1.p1.3.m3.1.2.3.2" xref="A2.Thmtheorem1.p1.3.m3.1.2.cmml"><mo id="A2.Thmtheorem1.p1.3.m3.1.2.3.2.1" stretchy="false" xref="A2.Thmtheorem1.p1.3.m3.1.2.cmml">(</mo><mi id="A2.Thmtheorem1.p1.3.m3.1.1" xref="A2.Thmtheorem1.p1.3.m3.1.1.cmml">x</mi><mo id="A2.Thmtheorem1.p1.3.m3.1.2.3.2.2" stretchy="false" xref="A2.Thmtheorem1.p1.3.m3.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem1.p1.3.m3.1b"><apply id="A2.Thmtheorem1.p1.3.m3.1.2.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2"><times id="A2.Thmtheorem1.p1.3.m3.1.2.1.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2.1"></times><apply id="A2.Thmtheorem1.p1.3.m3.1.2.2.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.3.m3.1.2.2.1.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2.2">superscript</csymbol><apply id="A2.Thmtheorem1.p1.3.m3.1.2.2.2.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.3.m3.1.2.2.2.1.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2.2">subscript</csymbol><ci id="A2.Thmtheorem1.p1.3.m3.1.2.2.2.2.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2.2.2.2">𝜎</ci><ci id="A2.Thmtheorem1.p1.3.m3.1.2.2.2.3.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.2.2.2.3">𝜃</ci></apply><cn id="A2.Thmtheorem1.p1.3.m3.1.2.2.3.cmml" type="integer" xref="A2.Thmtheorem1.p1.3.m3.1.2.2.3">2</cn></apply><ci id="A2.Thmtheorem1.p1.3.m3.1.1.cmml" xref="A2.Thmtheorem1.p1.3.m3.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem1.p1.3.m3.1c">\sigma_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem1.p1.3.m3.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math> obey:</p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx7"> <tbody id="A2.E41"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mu_{\theta}(x)" class="ltx_Math" display="inline" id="A2.E41.m1.1"><semantics id="A2.E41.m1.1a"><mrow id="A2.E41.m1.1.2" xref="A2.E41.m1.1.2.cmml"><msub id="A2.E41.m1.1.2.2" xref="A2.E41.m1.1.2.2.cmml"><mi id="A2.E41.m1.1.2.2.2" xref="A2.E41.m1.1.2.2.2.cmml">μ</mi><mi id="A2.E41.m1.1.2.2.3" xref="A2.E41.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E41.m1.1.2.1" xref="A2.E41.m1.1.2.1.cmml">⁢</mo><mrow id="A2.E41.m1.1.2.3.2" xref="A2.E41.m1.1.2.cmml"><mo id="A2.E41.m1.1.2.3.2.1" stretchy="false" xref="A2.E41.m1.1.2.cmml">(</mo><mi id="A2.E41.m1.1.1" xref="A2.E41.m1.1.1.cmml">x</mi><mo id="A2.E41.m1.1.2.3.2.2" stretchy="false" xref="A2.E41.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E41.m1.1b"><apply id="A2.E41.m1.1.2.cmml" xref="A2.E41.m1.1.2"><times id="A2.E41.m1.1.2.1.cmml" xref="A2.E41.m1.1.2.1"></times><apply id="A2.E41.m1.1.2.2.cmml" xref="A2.E41.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E41.m1.1.2.2.1.cmml" xref="A2.E41.m1.1.2.2">subscript</csymbol><ci id="A2.E41.m1.1.2.2.2.cmml" xref="A2.E41.m1.1.2.2.2">𝜇</ci><ci id="A2.E41.m1.1.2.2.3.cmml" xref="A2.E41.m1.1.2.2.3">𝜃</ci></apply><ci id="A2.E41.m1.1.1.cmml" xref="A2.E41.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E41.m1.1c">\displaystyle\mu_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E41.m1.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y|X]|[x]_{p}]" class="ltx_Math" display="inline" id="A2.E41.m2.2"><semantics id="A2.E41.m2.2a"><mrow id="A2.E41.m2.2.2" xref="A2.E41.m2.2.2.cmml"><mi id="A2.E41.m2.2.2.3" xref="A2.E41.m2.2.2.3.cmml"></mi><mo id="A2.E41.m2.2.2.2" xref="A2.E41.m2.2.2.2.cmml">=</mo><mrow id="A2.E41.m2.2.2.1" xref="A2.E41.m2.2.2.1.cmml"><mi id="A2.E41.m2.2.2.1.3" xref="A2.E41.m2.2.2.1.3.cmml">𝔼</mi><mo id="A2.E41.m2.2.2.1.2" xref="A2.E41.m2.2.2.1.2.cmml">⁢</mo><mrow id="A2.E41.m2.2.2.1.1.1" xref="A2.E41.m2.2.2.1.1.2.cmml"><mo id="A2.E41.m2.2.2.1.1.1.2" stretchy="false" xref="A2.E41.m2.2.2.1.1.2.1.cmml">[</mo><mrow id="A2.E41.m2.2.2.1.1.1.1" xref="A2.E41.m2.2.2.1.1.1.1.cmml"><mrow id="A2.E41.m2.2.2.1.1.1.1.1" xref="A2.E41.m2.2.2.1.1.1.1.1.cmml"><mi id="A2.E41.m2.2.2.1.1.1.1.1.3" xref="A2.E41.m2.2.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E41.m2.2.2.1.1.1.1.1.2" xref="A2.E41.m2.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E41.m2.2.2.1.1.1.1.1.1.1" xref="A2.E41.m2.2.2.1.1.1.1.1.1.2.cmml"><mo id="A2.E41.m2.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E41.m2.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.2" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.1" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.3" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E41.m2.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E41.m2.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E41.m2.2.2.1.1.1.1.2" xref="A2.E41.m2.2.2.1.1.1.1.2.cmml">|</mo><msub id="A2.E41.m2.2.2.1.1.1.1.3" xref="A2.E41.m2.2.2.1.1.1.1.3.cmml"><mrow id="A2.E41.m2.2.2.1.1.1.1.3.2.2" xref="A2.E41.m2.2.2.1.1.1.1.3.2.1.cmml"><mo id="A2.E41.m2.2.2.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E41.m2.2.2.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E41.m2.1.1" xref="A2.E41.m2.1.1.cmml">x</mi><mo id="A2.E41.m2.2.2.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E41.m2.2.2.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E41.m2.2.2.1.1.1.1.3.3" xref="A2.E41.m2.2.2.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E41.m2.2.2.1.1.1.3" stretchy="false" xref="A2.E41.m2.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E41.m2.2b"><apply id="A2.E41.m2.2.2.cmml" xref="A2.E41.m2.2.2"><eq id="A2.E41.m2.2.2.2.cmml" xref="A2.E41.m2.2.2.2"></eq><csymbol cd="latexml" id="A2.E41.m2.2.2.3.cmml" xref="A2.E41.m2.2.2.3">absent</csymbol><apply id="A2.E41.m2.2.2.1.cmml" xref="A2.E41.m2.2.2.1"><times id="A2.E41.m2.2.2.1.2.cmml" xref="A2.E41.m2.2.2.1.2"></times><ci id="A2.E41.m2.2.2.1.3.cmml" xref="A2.E41.m2.2.2.1.3">𝔼</ci><apply id="A2.E41.m2.2.2.1.1.2.cmml" xref="A2.E41.m2.2.2.1.1.1"><csymbol cd="latexml" id="A2.E41.m2.2.2.1.1.2.1.cmml" xref="A2.E41.m2.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A2.E41.m2.2.2.1.1.1.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1"><csymbol cd="latexml" id="A2.E41.m2.2.2.1.1.1.1.2.cmml" xref="A2.E41.m2.2.2.1.1.1.1.2">conditional</csymbol><apply id="A2.E41.m2.2.2.1.1.1.1.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1"><times id="A2.E41.m2.2.2.1.1.1.1.1.2.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.2"></times><ci id="A2.E41.m2.2.2.1.1.1.1.1.3.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.3">𝔼</ci><apply id="A2.E41.m2.2.2.1.1.1.1.1.1.2.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E41.m2.2.2.1.1.1.1.1.1.2.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E41.m2.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E41.m2.2.2.1.1.1.1.3.cmml" xref="A2.E41.m2.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E41.m2.2.2.1.1.1.1.3.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1.3">subscript</csymbol><apply id="A2.E41.m2.2.2.1.1.1.1.3.2.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E41.m2.2.2.1.1.1.1.3.2.1.1.cmml" xref="A2.E41.m2.2.2.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E41.m2.1.1.cmml" xref="A2.E41.m2.1.1">𝑥</ci></apply><ci id="A2.E41.m2.2.2.1.1.1.1.3.3.cmml" xref="A2.E41.m2.2.2.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E41.m2.2c">\displaystyle=\mathbb{E}[\mathbb{E}[Y|X]|[x]_{p}]</annotation><annotation encoding="application/x-llamapun" id="A2.E41.m2.2d">= blackboard_E [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(41)</span></td> </tr></tbody> <tbody id="A2.E42"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\sigma^{2}_{\theta}(x)" class="ltx_Math" display="inline" id="A2.E42.m1.1"><semantics id="A2.E42.m1.1a"><mrow id="A2.E42.m1.1.2" xref="A2.E42.m1.1.2.cmml"><msubsup id="A2.E42.m1.1.2.2" xref="A2.E42.m1.1.2.2.cmml"><mi id="A2.E42.m1.1.2.2.2.2" xref="A2.E42.m1.1.2.2.2.2.cmml">σ</mi><mi id="A2.E42.m1.1.2.2.3" xref="A2.E42.m1.1.2.2.3.cmml">θ</mi><mn id="A2.E42.m1.1.2.2.2.3" xref="A2.E42.m1.1.2.2.2.3.cmml">2</mn></msubsup><mo id="A2.E42.m1.1.2.1" xref="A2.E42.m1.1.2.1.cmml">⁢</mo><mrow id="A2.E42.m1.1.2.3.2" xref="A2.E42.m1.1.2.cmml"><mo id="A2.E42.m1.1.2.3.2.1" stretchy="false" xref="A2.E42.m1.1.2.cmml">(</mo><mi id="A2.E42.m1.1.1" xref="A2.E42.m1.1.1.cmml">x</mi><mo id="A2.E42.m1.1.2.3.2.2" stretchy="false" xref="A2.E42.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E42.m1.1b"><apply id="A2.E42.m1.1.2.cmml" xref="A2.E42.m1.1.2"><times id="A2.E42.m1.1.2.1.cmml" xref="A2.E42.m1.1.2.1"></times><apply id="A2.E42.m1.1.2.2.cmml" xref="A2.E42.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E42.m1.1.2.2.1.cmml" xref="A2.E42.m1.1.2.2">subscript</csymbol><apply id="A2.E42.m1.1.2.2.2.cmml" xref="A2.E42.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E42.m1.1.2.2.2.1.cmml" xref="A2.E42.m1.1.2.2">superscript</csymbol><ci id="A2.E42.m1.1.2.2.2.2.cmml" xref="A2.E42.m1.1.2.2.2.2">𝜎</ci><cn id="A2.E42.m1.1.2.2.2.3.cmml" type="integer" xref="A2.E42.m1.1.2.2.2.3">2</cn></apply><ci id="A2.E42.m1.1.2.2.3.cmml" xref="A2.E42.m1.1.2.2.3">𝜃</ci></apply><ci id="A2.E42.m1.1.1.cmml" xref="A2.E42.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E42.m1.1c">\displaystyle\sigma^{2}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E42.m1.1d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[(\mu_{\theta}(X)-Y)^{2}|X]|[x]_{p}]" class="ltx_Math" display="inline" id="A2.E42.m2.3"><semantics id="A2.E42.m2.3a"><mrow id="A2.E42.m2.3.3" xref="A2.E42.m2.3.3.cmml"><mi id="A2.E42.m2.3.3.3" xref="A2.E42.m2.3.3.3.cmml"></mi><mo id="A2.E42.m2.3.3.2" xref="A2.E42.m2.3.3.2.cmml">=</mo><mrow id="A2.E42.m2.3.3.1" xref="A2.E42.m2.3.3.1.cmml"><mi id="A2.E42.m2.3.3.1.3" xref="A2.E42.m2.3.3.1.3.cmml">𝔼</mi><mo id="A2.E42.m2.3.3.1.2" xref="A2.E42.m2.3.3.1.2.cmml">⁢</mo><mrow id="A2.E42.m2.3.3.1.1.1" xref="A2.E42.m2.3.3.1.1.2.cmml"><mo id="A2.E42.m2.3.3.1.1.1.2" stretchy="false" xref="A2.E42.m2.3.3.1.1.2.1.cmml">[</mo><mrow id="A2.E42.m2.3.3.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.cmml"><mrow id="A2.E42.m2.3.3.1.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.1.cmml"><mi id="A2.E42.m2.3.3.1.1.1.1.1.3" xref="A2.E42.m2.3.3.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E42.m2.3.3.1.1.1.1.1.2" xref="A2.E42.m2.3.3.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E42.m2.3.3.1.1.1.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.1.1.2.cmml"><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.cmml"><msup id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><msub id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml"><mi id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2.cmml">μ</mi><mi id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A2.E42.m2.1.1" xref="A2.E42.m2.1.1.cmml">X</mi><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml">−</mo><mi id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml">Y</mi></mrow><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mn id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.3" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.3.cmml">2</mn></msup><mo fence="false" id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.2" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.2.cmml">|</mo><mi id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.3" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E42.m2.3.3.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E42.m2.3.3.1.1.1.1.2" xref="A2.E42.m2.3.3.1.1.1.1.2.cmml">|</mo><msub id="A2.E42.m2.3.3.1.1.1.1.3" xref="A2.E42.m2.3.3.1.1.1.1.3.cmml"><mrow id="A2.E42.m2.3.3.1.1.1.1.3.2.2" xref="A2.E42.m2.3.3.1.1.1.1.3.2.1.cmml"><mo id="A2.E42.m2.3.3.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E42.m2.2.2" xref="A2.E42.m2.2.2.cmml">x</mi><mo id="A2.E42.m2.3.3.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E42.m2.3.3.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E42.m2.3.3.1.1.1.1.3.3" xref="A2.E42.m2.3.3.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E42.m2.3.3.1.1.1.3" stretchy="false" xref="A2.E42.m2.3.3.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E42.m2.3b"><apply id="A2.E42.m2.3.3.cmml" xref="A2.E42.m2.3.3"><eq id="A2.E42.m2.3.3.2.cmml" xref="A2.E42.m2.3.3.2"></eq><csymbol cd="latexml" id="A2.E42.m2.3.3.3.cmml" xref="A2.E42.m2.3.3.3">absent</csymbol><apply id="A2.E42.m2.3.3.1.cmml" xref="A2.E42.m2.3.3.1"><times id="A2.E42.m2.3.3.1.2.cmml" xref="A2.E42.m2.3.3.1.2"></times><ci id="A2.E42.m2.3.3.1.3.cmml" xref="A2.E42.m2.3.3.1.3">𝔼</ci><apply id="A2.E42.m2.3.3.1.1.2.cmml" xref="A2.E42.m2.3.3.1.1.1"><csymbol cd="latexml" id="A2.E42.m2.3.3.1.1.2.1.cmml" xref="A2.E42.m2.3.3.1.1.1.2">delimited-[]</csymbol><apply id="A2.E42.m2.3.3.1.1.1.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E42.m2.3.3.1.1.1.1.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.2">conditional</csymbol><apply id="A2.E42.m2.3.3.1.1.1.1.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1"><times id="A2.E42.m2.3.3.1.1.1.1.1.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.2"></times><ci id="A2.E42.m2.3.3.1.1.1.1.1.3.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.3">𝔼</ci><apply id="A2.E42.m2.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E42.m2.3.3.1.1.1.1.1.1.2.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1">superscript</csymbol><apply id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1"><minus id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1"></minus><apply id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2"><times id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1"></times><apply id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2">𝜇</ci><ci id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3">𝜃</ci></apply><ci id="A2.E42.m2.1.1.cmml" xref="A2.E42.m2.1.1">𝑋</ci></apply><ci id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3">𝑌</ci></apply><cn id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.1.3">2</cn></apply><ci id="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E42.m2.3.3.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E42.m2.3.3.1.1.1.1.3.cmml" xref="A2.E42.m2.3.3.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E42.m2.3.3.1.1.1.1.3.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.3">subscript</csymbol><apply id="A2.E42.m2.3.3.1.1.1.1.3.2.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E42.m2.3.3.1.1.1.1.3.2.1.1.cmml" xref="A2.E42.m2.3.3.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E42.m2.2.2.cmml" xref="A2.E42.m2.2.2">𝑥</ci></apply><ci id="A2.E42.m2.3.3.1.1.1.1.3.3.cmml" xref="A2.E42.m2.3.3.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E42.m2.3c">\displaystyle=\mathbb{E}[\mathbb{E}[(\mu_{\theta}(X)-Y)^{2}|X]|[x]_{p}]</annotation><annotation encoding="application/x-llamapun" id="A2.E42.m2.3d">= blackboard_E [ blackboard_E [ ( italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) - italic_Y ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(42)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A2.Thmtheorem1.p1.4">where the equivalence class aggregates all points with the same mean and variance, i.e. <math alttext="[x]_{p}=\{x^{\prime}\in\mathcal{X}\;|\;\sigma_{\theta}^{2}(x^{\prime})=\sigma_% {\theta}^{2}(x)\text{ and }\mu_{\theta}(x^{\prime})=\mu_{\theta}(x)\}" class="ltx_Math" display="inline" id="A2.Thmtheorem1.p1.4.m1.5"><semantics id="A2.Thmtheorem1.p1.4.m1.5a"><mrow id="A2.Thmtheorem1.p1.4.m1.5.5" xref="A2.Thmtheorem1.p1.4.m1.5.5.cmml"><msub id="A2.Thmtheorem1.p1.4.m1.5.5.4" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.cmml"><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.4.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.2.1.cmml"><mo id="A2.Thmtheorem1.p1.4.m1.5.5.4.2.2.1" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.2.1.1.cmml">[</mo><mi id="A2.Thmtheorem1.p1.4.m1.1.1" xref="A2.Thmtheorem1.p1.4.m1.1.1.cmml">x</mi><mo id="A2.Thmtheorem1.p1.4.m1.5.5.4.2.2.2" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.2.1.1.cmml">]</mo></mrow><mi id="A2.Thmtheorem1.p1.4.m1.5.5.4.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.3.cmml">p</mi></msub><mo id="A2.Thmtheorem1.p1.4.m1.5.5.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.3.cmml">=</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.3.cmml"><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.3" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.3.1.cmml">{</mo><mrow id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.cmml"><msup id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.cmml"><mi id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.2" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.2.cmml">x</mi><mo id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.3" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.3.cmml">′</mo></msup><mo id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.1" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.1.cmml">∈</mo><mi class="ltx_font_mathcaligraphic" id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.3" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.3.cmml">𝒳</mi></mrow><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.4" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.3.1.cmml">|</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.cmml"><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.cmml"><msubsup id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.cmml"><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.2.cmml">σ</mi><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.3.cmml">θ</mi><mn id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.3.cmml">2</mn></msubsup><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.2.cmml">⁢</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.cmml"><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.2" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.cmml">(</mo><msup id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.cmml"><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.2.cmml">x</mi><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.3.cmml">′</mo></msup><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.3" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.4" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.4.cmml">=</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.cmml"><msubsup id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.cmml"><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.2.cmml">σ</mi><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.3.cmml">θ</mi><mn id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.3.cmml">2</mn></msubsup><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2.cmml">⁢</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.4.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.cmml"><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.4.2.1" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.cmml">(</mo><mi id="A2.Thmtheorem1.p1.4.m1.2.2" xref="A2.Thmtheorem1.p1.4.m1.2.2.cmml">x</mi><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.4.2.2" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.cmml">)</mo></mrow><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2a" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2.cmml">⁢</mo><mtext id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.5" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.5a.cmml"> and </mtext><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2b" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2.cmml">⁢</mo><msub id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.cmml"><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.2.cmml">μ</mi><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2c" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2.cmml">⁢</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.cmml"><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.2" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.cmml">(</mo><msup id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.cmml"><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.2.cmml">x</mi><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.3.cmml">′</mo></msup><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.3" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.cmml">)</mo></mrow></mrow><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.5" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.5.cmml">=</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.cmml"><msub id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.cmml"><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.2.cmml">μ</mi><mi id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.3" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.1" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.1.cmml">⁢</mo><mrow id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.3.2" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.cmml"><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.3.2.1" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.cmml">(</mo><mi id="A2.Thmtheorem1.p1.4.m1.3.3" xref="A2.Thmtheorem1.p1.4.m1.3.3.cmml">x</mi><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.3.2.2" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.cmml">)</mo></mrow></mrow></mrow><mo id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.5" stretchy="false" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.3.1.cmml">}</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem1.p1.4.m1.5b"><apply id="A2.Thmtheorem1.p1.4.m1.5.5.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5"><eq id="A2.Thmtheorem1.p1.4.m1.5.5.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.3"></eq><apply id="A2.Thmtheorem1.p1.4.m1.5.5.4.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.4"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.4.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.4">subscript</csymbol><apply id="A2.Thmtheorem1.p1.4.m1.5.5.4.2.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.2.2"><csymbol cd="latexml" id="A2.Thmtheorem1.p1.4.m1.5.5.4.2.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.2.2.1">delimited-[]</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.1.1">𝑥</ci></apply><ci id="A2.Thmtheorem1.p1.4.m1.5.5.4.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.4.3">𝑝</ci></apply><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2"><csymbol cd="latexml" id="A2.Thmtheorem1.p1.4.m1.5.5.2.3.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.3">conditional-set</csymbol><apply id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1"><in id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.1"></in><apply id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2">superscript</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.2">𝑥</ci><ci id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.2.3">′</ci></apply><ci id="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.4.4.1.1.1.3">𝒳</ci></apply><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2"><and id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2a.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2"></and><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2b.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2"><eq id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.4.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.4"></eq><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1"><times id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.2"></times><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3">superscript</csymbol><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3">subscript</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.2">𝜎</ci><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.2.3">𝜃</ci></apply><cn id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.3.cmml" type="integer" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.3.3">2</cn></apply><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1">superscript</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.2">𝑥</ci><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.1.1.1.1.3">′</ci></apply></apply><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2"><times id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.2"></times><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3">superscript</csymbol><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3">subscript</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.2">𝜎</ci><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.2.3">𝜃</ci></apply><cn id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.3.cmml" type="integer" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.3.3">2</cn></apply><ci id="A2.Thmtheorem1.p1.4.m1.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.2.2">𝑥</ci><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.5a.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.5"><mtext id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.5.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.5"> and </mtext></ci><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6">subscript</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.2">𝜇</ci><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.6.3">𝜃</ci></apply><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1">superscript</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.2">𝑥</ci><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.1.1.1.3">′</ci></apply></apply></apply><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2c.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2"><eq id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.5.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.5"></eq><share href="https://arxiv.org/html/2503.13317v1#A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.2.cmml" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2d.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2"></share><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6"><times id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.1"></times><apply id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2"><csymbol cd="ambiguous" id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.1.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2">subscript</csymbol><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.2.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.2">𝜇</ci><ci id="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.5.5.2.2.2.6.2.3">𝜃</ci></apply><ci id="A2.Thmtheorem1.p1.4.m1.3.3.cmml" xref="A2.Thmtheorem1.p1.4.m1.3.3">𝑥</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem1.p1.4.m1.5c">[x]_{p}=\{x^{\prime}\in\mathcal{X}\;|\;\sigma_{\theta}^{2}(x^{\prime})=\sigma_% {\theta}^{2}(x)\text{ and }\mu_{\theta}(x^{\prime})=\mu_{\theta}(x)\}</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem1.p1.4.m1.5d">[ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT = { italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ∈ caligraphic_X | italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) = italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) and italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ) = italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) }</annotation></semantics></math>.</p> </div> </div> <div class="ltx_para" id="A2.p2"> <p class="ltx_p" id="A2.p2.2">This definition of calibration is harder to obtain than the one used in <cite class="ltx_cite ltx_citemacro_citep">(Levi et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib10" title="">2022</a>)</cite>, because to be evaluated it requires binning over two variables, <math alttext="\mu_{\theta}" class="ltx_Math" display="inline" id="A2.p2.1.m1.1"><semantics id="A2.p2.1.m1.1a"><msub id="A2.p2.1.m1.1.1" xref="A2.p2.1.m1.1.1.cmml"><mi id="A2.p2.1.m1.1.1.2" xref="A2.p2.1.m1.1.1.2.cmml">μ</mi><mi id="A2.p2.1.m1.1.1.3" xref="A2.p2.1.m1.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="A2.p2.1.m1.1b"><apply id="A2.p2.1.m1.1.1.cmml" xref="A2.p2.1.m1.1.1"><csymbol cd="ambiguous" id="A2.p2.1.m1.1.1.1.cmml" xref="A2.p2.1.m1.1.1">subscript</csymbol><ci id="A2.p2.1.m1.1.1.2.cmml" xref="A2.p2.1.m1.1.1.2">𝜇</ci><ci id="A2.p2.1.m1.1.1.3.cmml" xref="A2.p2.1.m1.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p2.1.m1.1c">\mu_{\theta}</annotation><annotation encoding="application/x-llamapun" id="A2.p2.1.m1.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="\sigma_{\theta}^{2}" class="ltx_Math" display="inline" id="A2.p2.2.m2.1"><semantics id="A2.p2.2.m2.1a"><msubsup id="A2.p2.2.m2.1.1" xref="A2.p2.2.m2.1.1.cmml"><mi id="A2.p2.2.m2.1.1.2.2" xref="A2.p2.2.m2.1.1.2.2.cmml">σ</mi><mi id="A2.p2.2.m2.1.1.2.3" xref="A2.p2.2.m2.1.1.2.3.cmml">θ</mi><mn id="A2.p2.2.m2.1.1.3" xref="A2.p2.2.m2.1.1.3.cmml">2</mn></msubsup><annotation-xml encoding="MathML-Content" id="A2.p2.2.m2.1b"><apply id="A2.p2.2.m2.1.1.cmml" xref="A2.p2.2.m2.1.1"><csymbol cd="ambiguous" id="A2.p2.2.m2.1.1.1.cmml" xref="A2.p2.2.m2.1.1">superscript</csymbol><apply id="A2.p2.2.m2.1.1.2.cmml" xref="A2.p2.2.m2.1.1"><csymbol cd="ambiguous" id="A2.p2.2.m2.1.1.2.1.cmml" xref="A2.p2.2.m2.1.1">subscript</csymbol><ci id="A2.p2.2.m2.1.1.2.2.cmml" xref="A2.p2.2.m2.1.1.2.2">𝜎</ci><ci id="A2.p2.2.m2.1.1.2.3.cmml" xref="A2.p2.2.m2.1.1.2.3">𝜃</ci></apply><cn id="A2.p2.2.m2.1.1.3.cmml" type="integer" xref="A2.p2.2.m2.1.1.3">2</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p2.2.m2.1c">\sigma_{\theta}^{2}</annotation><annotation encoding="application/x-llamapun" id="A2.p2.2.m2.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math>. On the other hand, this definition of calibration allows to recover Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a>:</p> </div> <div class="ltx_theorem ltx_theorem_theorem" id="A2.Thmtheorem2"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem2.1.1.1">Theorem B.2</span></span><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem2.2.2">.</span> </h6> <div class="ltx_para" id="A2.Thmtheorem2.p1"> <p class="ltx_p" id="A2.Thmtheorem2.p1.1"><span class="ltx_text ltx_font_italic" id="A2.Thmtheorem2.p1.1.1">Let <math alttext="p_{\theta}(Y|X)" class="ltx_Math" display="inline" id="A2.Thmtheorem2.p1.1.1.m1.1"><semantics id="A2.Thmtheorem2.p1.1.1.m1.1a"><mrow id="A2.Thmtheorem2.p1.1.1.m1.1.1" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.cmml"><msub id="A2.Thmtheorem2.p1.1.1.m1.1.1.3" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.3.cmml"><mi id="A2.Thmtheorem2.p1.1.1.m1.1.1.3.2" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.3.2.cmml">p</mi><mi id="A2.Thmtheorem2.p1.1.1.m1.1.1.3.3" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.3.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem2.p1.1.1.m1.1.1.2" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.2.cmml">⁢</mo><mrow id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml"><mo id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.2" stretchy="false" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml">(</mo><mrow id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.3" stretchy="false" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem2.p1.1.1.m1.1b"><apply id="A2.Thmtheorem2.p1.1.1.m1.1.1.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1"><times id="A2.Thmtheorem2.p1.1.1.m1.1.1.2.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.2"></times><apply id="A2.Thmtheorem2.p1.1.1.m1.1.1.3.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.3"><csymbol cd="ambiguous" id="A2.Thmtheorem2.p1.1.1.m1.1.1.3.1.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.3">subscript</csymbol><ci id="A2.Thmtheorem2.p1.1.1.m1.1.1.3.2.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.3.2">𝑝</ci><ci id="A2.Thmtheorem2.p1.1.1.m1.1.1.3.3.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.3.3">𝜃</ci></apply><apply id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1"><csymbol cd="latexml" id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.2">𝑌</ci><ci id="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3.cmml" xref="A2.Thmtheorem2.p1.1.1.m1.1.1.1.1.1.3">𝑋</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem2.p1.1.1.m1.1c">p_{\theta}(Y|X)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem2.p1.1.1.m1.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_Y | italic_X )</annotation></semantics></math> be strongly variance calibrated. Then it holds that:</span></p> <table class="ltx_equation ltx_eqn_table" id="A2.E43"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\sigma_{\theta}^{2}(x)=\mathbb{E}[\mathbb{V}[Y|X]|[x]_{p}]+\mathbb{V}[\mathbb{% E}[Y|X]|[x]_{p}]" class="ltx_Math" display="block" id="A2.E43.m1.5"><semantics id="A2.E43.m1.5a"><mrow id="A2.E43.m1.5.5" xref="A2.E43.m1.5.5.cmml"><mrow id="A2.E43.m1.5.5.4" xref="A2.E43.m1.5.5.4.cmml"><msubsup id="A2.E43.m1.5.5.4.2" xref="A2.E43.m1.5.5.4.2.cmml"><mi id="A2.E43.m1.5.5.4.2.2.2" xref="A2.E43.m1.5.5.4.2.2.2.cmml">σ</mi><mi id="A2.E43.m1.5.5.4.2.2.3" xref="A2.E43.m1.5.5.4.2.2.3.cmml">θ</mi><mn id="A2.E43.m1.5.5.4.2.3" xref="A2.E43.m1.5.5.4.2.3.cmml">2</mn></msubsup><mo id="A2.E43.m1.5.5.4.1" xref="A2.E43.m1.5.5.4.1.cmml">⁢</mo><mrow id="A2.E43.m1.5.5.4.3.2" xref="A2.E43.m1.5.5.4.cmml"><mo id="A2.E43.m1.5.5.4.3.2.1" stretchy="false" xref="A2.E43.m1.5.5.4.cmml">(</mo><mi id="A2.E43.m1.1.1" xref="A2.E43.m1.1.1.cmml">x</mi><mo id="A2.E43.m1.5.5.4.3.2.2" stretchy="false" xref="A2.E43.m1.5.5.4.cmml">)</mo></mrow></mrow><mo id="A2.E43.m1.5.5.3" xref="A2.E43.m1.5.5.3.cmml">=</mo><mrow id="A2.E43.m1.5.5.2" xref="A2.E43.m1.5.5.2.cmml"><mrow id="A2.E43.m1.4.4.1.1" xref="A2.E43.m1.4.4.1.1.cmml"><mi id="A2.E43.m1.4.4.1.1.3" xref="A2.E43.m1.4.4.1.1.3.cmml">𝔼</mi><mo id="A2.E43.m1.4.4.1.1.2" xref="A2.E43.m1.4.4.1.1.2.cmml">⁢</mo><mrow id="A2.E43.m1.4.4.1.1.1.1" xref="A2.E43.m1.4.4.1.1.1.2.cmml"><mo id="A2.E43.m1.4.4.1.1.1.1.2" stretchy="false" xref="A2.E43.m1.4.4.1.1.1.2.1.cmml">[</mo><mrow id="A2.E43.m1.4.4.1.1.1.1.1" xref="A2.E43.m1.4.4.1.1.1.1.1.cmml"><mrow id="A2.E43.m1.4.4.1.1.1.1.1.1" xref="A2.E43.m1.4.4.1.1.1.1.1.1.cmml"><mi id="A2.E43.m1.4.4.1.1.1.1.1.1.3" xref="A2.E43.m1.4.4.1.1.1.1.1.1.3.cmml">𝕍</mi><mo id="A2.E43.m1.4.4.1.1.1.1.1.1.2" xref="A2.E43.m1.4.4.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.2" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.1" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.3" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E43.m1.4.4.1.1.1.1.1.2" xref="A2.E43.m1.4.4.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E43.m1.4.4.1.1.1.1.1.3" xref="A2.E43.m1.4.4.1.1.1.1.1.3.cmml"><mrow id="A2.E43.m1.4.4.1.1.1.1.1.3.2.2" xref="A2.E43.m1.4.4.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E43.m1.4.4.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E43.m1.4.4.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E43.m1.2.2" xref="A2.E43.m1.2.2.cmml">x</mi><mo id="A2.E43.m1.4.4.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E43.m1.4.4.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E43.m1.4.4.1.1.1.1.1.3.3" xref="A2.E43.m1.4.4.1.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E43.m1.4.4.1.1.1.1.3" stretchy="false" xref="A2.E43.m1.4.4.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E43.m1.5.5.2.3" xref="A2.E43.m1.5.5.2.3.cmml">+</mo><mrow id="A2.E43.m1.5.5.2.2" xref="A2.E43.m1.5.5.2.2.cmml"><mi id="A2.E43.m1.5.5.2.2.3" xref="A2.E43.m1.5.5.2.2.3.cmml">𝕍</mi><mo id="A2.E43.m1.5.5.2.2.2" xref="A2.E43.m1.5.5.2.2.2.cmml">⁢</mo><mrow id="A2.E43.m1.5.5.2.2.1.1" xref="A2.E43.m1.5.5.2.2.1.2.cmml"><mo id="A2.E43.m1.5.5.2.2.1.1.2" stretchy="false" xref="A2.E43.m1.5.5.2.2.1.2.1.cmml">[</mo><mrow id="A2.E43.m1.5.5.2.2.1.1.1" xref="A2.E43.m1.5.5.2.2.1.1.1.cmml"><mrow id="A2.E43.m1.5.5.2.2.1.1.1.1" xref="A2.E43.m1.5.5.2.2.1.1.1.1.cmml"><mi id="A2.E43.m1.5.5.2.2.1.1.1.1.3" xref="A2.E43.m1.5.5.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E43.m1.5.5.2.2.1.1.1.1.2" xref="A2.E43.m1.5.5.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.cmml"><mi id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.2" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.1" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.3" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E43.m1.5.5.2.2.1.1.1.2" xref="A2.E43.m1.5.5.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E43.m1.5.5.2.2.1.1.1.3" xref="A2.E43.m1.5.5.2.2.1.1.1.3.cmml"><mrow id="A2.E43.m1.5.5.2.2.1.1.1.3.2.2" xref="A2.E43.m1.5.5.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E43.m1.5.5.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E43.m1.5.5.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E43.m1.3.3" xref="A2.E43.m1.3.3.cmml">x</mi><mo id="A2.E43.m1.5.5.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E43.m1.5.5.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E43.m1.5.5.2.2.1.1.1.3.3" xref="A2.E43.m1.5.5.2.2.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E43.m1.5.5.2.2.1.1.3" stretchy="false" xref="A2.E43.m1.5.5.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E43.m1.5b"><apply id="A2.E43.m1.5.5.cmml" xref="A2.E43.m1.5.5"><eq id="A2.E43.m1.5.5.3.cmml" xref="A2.E43.m1.5.5.3"></eq><apply id="A2.E43.m1.5.5.4.cmml" xref="A2.E43.m1.5.5.4"><times id="A2.E43.m1.5.5.4.1.cmml" xref="A2.E43.m1.5.5.4.1"></times><apply id="A2.E43.m1.5.5.4.2.cmml" xref="A2.E43.m1.5.5.4.2"><csymbol cd="ambiguous" id="A2.E43.m1.5.5.4.2.1.cmml" xref="A2.E43.m1.5.5.4.2">superscript</csymbol><apply id="A2.E43.m1.5.5.4.2.2.cmml" xref="A2.E43.m1.5.5.4.2"><csymbol cd="ambiguous" id="A2.E43.m1.5.5.4.2.2.1.cmml" xref="A2.E43.m1.5.5.4.2">subscript</csymbol><ci id="A2.E43.m1.5.5.4.2.2.2.cmml" xref="A2.E43.m1.5.5.4.2.2.2">𝜎</ci><ci id="A2.E43.m1.5.5.4.2.2.3.cmml" xref="A2.E43.m1.5.5.4.2.2.3">𝜃</ci></apply><cn id="A2.E43.m1.5.5.4.2.3.cmml" type="integer" xref="A2.E43.m1.5.5.4.2.3">2</cn></apply><ci id="A2.E43.m1.1.1.cmml" xref="A2.E43.m1.1.1">𝑥</ci></apply><apply id="A2.E43.m1.5.5.2.cmml" xref="A2.E43.m1.5.5.2"><plus id="A2.E43.m1.5.5.2.3.cmml" xref="A2.E43.m1.5.5.2.3"></plus><apply id="A2.E43.m1.4.4.1.1.cmml" xref="A2.E43.m1.4.4.1.1"><times id="A2.E43.m1.4.4.1.1.2.cmml" xref="A2.E43.m1.4.4.1.1.2"></times><ci id="A2.E43.m1.4.4.1.1.3.cmml" xref="A2.E43.m1.4.4.1.1.3">𝔼</ci><apply id="A2.E43.m1.4.4.1.1.1.2.cmml" xref="A2.E43.m1.4.4.1.1.1.1"><csymbol cd="latexml" id="A2.E43.m1.4.4.1.1.1.2.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E43.m1.4.4.1.1.1.1.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1"><csymbol cd="latexml" id="A2.E43.m1.4.4.1.1.1.1.1.2.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E43.m1.4.4.1.1.1.1.1.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1"><times id="A2.E43.m1.4.4.1.1.1.1.1.1.2.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.2"></times><ci id="A2.E43.m1.4.4.1.1.1.1.1.1.3.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.3">𝕍</ci><apply id="A2.E43.m1.4.4.1.1.1.1.1.1.1.2.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E43.m1.4.4.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E43.m1.4.4.1.1.1.1.1.3.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E43.m1.4.4.1.1.1.1.1.3.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E43.m1.4.4.1.1.1.1.1.3.2.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E43.m1.4.4.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E43.m1.2.2.cmml" xref="A2.E43.m1.2.2">𝑥</ci></apply><ci id="A2.E43.m1.4.4.1.1.1.1.1.3.3.cmml" xref="A2.E43.m1.4.4.1.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply><apply id="A2.E43.m1.5.5.2.2.cmml" xref="A2.E43.m1.5.5.2.2"><times id="A2.E43.m1.5.5.2.2.2.cmml" xref="A2.E43.m1.5.5.2.2.2"></times><ci id="A2.E43.m1.5.5.2.2.3.cmml" xref="A2.E43.m1.5.5.2.2.3">𝕍</ci><apply id="A2.E43.m1.5.5.2.2.1.2.cmml" xref="A2.E43.m1.5.5.2.2.1.1"><csymbol cd="latexml" id="A2.E43.m1.5.5.2.2.1.2.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E43.m1.5.5.2.2.1.1.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1"><csymbol cd="latexml" id="A2.E43.m1.5.5.2.2.1.1.1.2.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E43.m1.5.5.2.2.1.1.1.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1"><times id="A2.E43.m1.5.5.2.2.1.1.1.1.2.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.2"></times><ci id="A2.E43.m1.5.5.2.2.1.1.1.1.3.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.3">𝔼</ci><apply id="A2.E43.m1.5.5.2.2.1.1.1.1.1.2.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E43.m1.5.5.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E43.m1.5.5.2.2.1.1.1.3.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E43.m1.5.5.2.2.1.1.1.3.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E43.m1.5.5.2.2.1.1.1.3.2.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E43.m1.5.5.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E43.m1.3.3.cmml" xref="A2.E43.m1.3.3">𝑥</ci></apply><ci id="A2.E43.m1.5.5.2.2.1.1.1.3.3.cmml" xref="A2.E43.m1.5.5.2.2.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E43.m1.5c">\sigma_{\theta}^{2}(x)=\mathbb{E}[\mathbb{V}[Y|X]|[x]_{p}]+\mathbb{V}[\mathbb{% E}[Y|X]|[x]_{p}]</annotation><annotation encoding="application/x-llamapun" id="A2.E43.m1.5d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) = blackboard_E [ blackboard_V [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] + blackboard_V [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(43)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_proof" id="A2.1"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof.</h6> <div class="ltx_para" id="A2.1.p1"> <table class="ltx_equationgroup ltx_eqn_table" id="A2.E44"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E44X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\sigma_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="A2.E44X.2.1.1.m1.1"><semantics id="A2.E44X.2.1.1.m1.1a"><mrow id="A2.E44X.2.1.1.m1.1.2" xref="A2.E44X.2.1.1.m1.1.2.cmml"><msubsup id="A2.E44X.2.1.1.m1.1.2.2" xref="A2.E44X.2.1.1.m1.1.2.2.cmml"><mi id="A2.E44X.2.1.1.m1.1.2.2.2.2" xref="A2.E44X.2.1.1.m1.1.2.2.2.2.cmml">σ</mi><mi id="A2.E44X.2.1.1.m1.1.2.2.2.3" xref="A2.E44X.2.1.1.m1.1.2.2.2.3.cmml">θ</mi><mn id="A2.E44X.2.1.1.m1.1.2.2.3" xref="A2.E44X.2.1.1.m1.1.2.2.3.cmml">2</mn></msubsup><mo id="A2.E44X.2.1.1.m1.1.2.1" xref="A2.E44X.2.1.1.m1.1.2.1.cmml">⁢</mo><mrow id="A2.E44X.2.1.1.m1.1.2.3.2" xref="A2.E44X.2.1.1.m1.1.2.cmml"><mo id="A2.E44X.2.1.1.m1.1.2.3.2.1" stretchy="false" xref="A2.E44X.2.1.1.m1.1.2.cmml">(</mo><mi id="A2.E44X.2.1.1.m1.1.1" xref="A2.E44X.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E44X.2.1.1.m1.1.2.3.2.2" stretchy="false" xref="A2.E44X.2.1.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E44X.2.1.1.m1.1b"><apply id="A2.E44X.2.1.1.m1.1.2.cmml" xref="A2.E44X.2.1.1.m1.1.2"><times id="A2.E44X.2.1.1.m1.1.2.1.cmml" xref="A2.E44X.2.1.1.m1.1.2.1"></times><apply id="A2.E44X.2.1.1.m1.1.2.2.cmml" xref="A2.E44X.2.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E44X.2.1.1.m1.1.2.2.1.cmml" xref="A2.E44X.2.1.1.m1.1.2.2">superscript</csymbol><apply id="A2.E44X.2.1.1.m1.1.2.2.2.cmml" xref="A2.E44X.2.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E44X.2.1.1.m1.1.2.2.2.1.cmml" xref="A2.E44X.2.1.1.m1.1.2.2">subscript</csymbol><ci id="A2.E44X.2.1.1.m1.1.2.2.2.2.cmml" xref="A2.E44X.2.1.1.m1.1.2.2.2.2">𝜎</ci><ci id="A2.E44X.2.1.1.m1.1.2.2.2.3.cmml" xref="A2.E44X.2.1.1.m1.1.2.2.2.3">𝜃</ci></apply><cn id="A2.E44X.2.1.1.m1.1.2.2.3.cmml" type="integer" xref="A2.E44X.2.1.1.m1.1.2.2.3">2</cn></apply><ci id="A2.E44X.2.1.1.m1.1.1.cmml" xref="A2.E44X.2.1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44X.2.1.1.m1.1c">\displaystyle\sigma_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E44X.2.1.1.m1.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[(\mu_{\theta}(X)-Y)^{2}|X]|[x]_{p}]" class="ltx_Math" display="inline" id="A2.E44X.3.2.2.m1.3"><semantics id="A2.E44X.3.2.2.m1.3a"><mrow id="A2.E44X.3.2.2.m1.3.3" xref="A2.E44X.3.2.2.m1.3.3.cmml"><mi id="A2.E44X.3.2.2.m1.3.3.3" xref="A2.E44X.3.2.2.m1.3.3.3.cmml"></mi><mo id="A2.E44X.3.2.2.m1.3.3.2" xref="A2.E44X.3.2.2.m1.3.3.2.cmml">=</mo><mrow id="A2.E44X.3.2.2.m1.3.3.1" xref="A2.E44X.3.2.2.m1.3.3.1.cmml"><mi id="A2.E44X.3.2.2.m1.3.3.1.3" xref="A2.E44X.3.2.2.m1.3.3.1.3.cmml">𝔼</mi><mo id="A2.E44X.3.2.2.m1.3.3.1.2" xref="A2.E44X.3.2.2.m1.3.3.1.2.cmml">⁢</mo><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.2.cmml"><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.2" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.2.1.cmml">[</mo><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.cmml"><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.cmml"><mi id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.3" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.2.cmml"><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.cmml"><msup id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><msub id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml"><mi id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2.cmml">μ</mi><mi id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A2.E44X.3.2.2.m1.1.1" xref="A2.E44X.3.2.2.m1.1.1.cmml">X</mi><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml">−</mo><mi id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml">Y</mi></mrow><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mn id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">2</mn></msup><mo fence="false" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.2.cmml">|</mo><mi id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.3" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.2.cmml">|</mo><msub id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.cmml"><mrow id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.2" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.1.cmml"><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44X.3.2.2.m1.2.2" xref="A2.E44X.3.2.2.m1.2.2.cmml">x</mi><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.3" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44X.3.2.2.m1.3.3.1.1.1.3" stretchy="false" xref="A2.E44X.3.2.2.m1.3.3.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E44X.3.2.2.m1.3b"><apply id="A2.E44X.3.2.2.m1.3.3.cmml" xref="A2.E44X.3.2.2.m1.3.3"><eq id="A2.E44X.3.2.2.m1.3.3.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.2"></eq><csymbol cd="latexml" id="A2.E44X.3.2.2.m1.3.3.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.3">absent</csymbol><apply id="A2.E44X.3.2.2.m1.3.3.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1"><times id="A2.E44X.3.2.2.m1.3.3.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.2"></times><ci id="A2.E44X.3.2.2.m1.3.3.1.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.3">𝔼</ci><apply id="A2.E44X.3.2.2.m1.3.3.1.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1"><csymbol cd="latexml" id="A2.E44X.3.2.2.m1.3.3.1.1.2.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.2">conditional</csymbol><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1"><times id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.2"></times><ci id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.3">𝔼</ci><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.2.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1">superscript</csymbol><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1"><minus id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.1"></minus><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2"><times id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.1"></times><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.2">𝜇</ci><ci id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.2.2.3">𝜃</ci></apply><ci id="A2.E44X.3.2.2.m1.1.1.cmml" xref="A2.E44X.3.2.2.m1.1.1">𝑋</ci></apply><ci id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.1.1.1.3">𝑌</ci></apply><cn id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.1.3">2</cn></apply><ci id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3">subscript</csymbol><apply id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.1.1.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44X.3.2.2.m1.2.2.cmml" xref="A2.E44X.3.2.2.m1.2.2">𝑥</ci></apply><ci id="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.3.cmml" xref="A2.E44X.3.2.2.m1.3.3.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44X.3.2.2.m1.3c">\displaystyle=\mathbb{E}[\mathbb{E}[(\mu_{\theta}(X)-Y)^{2}|X]|[x]_{p}]</annotation><annotation encoding="application/x-llamapun" id="A2.E44X.3.2.2.m1.3d">= blackboard_E [ blackboard_E [ ( italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) - italic_Y ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="6"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(44)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E44Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[\mu^{2}_{\theta}(X)|X]|[x]_{p}]+\mathbb{E}% [\mathbb{E}[Y^{2}|X]|[x]_{p}]-2\mathbb{E}[\mathbb{E}[\mu_{\theta}(X)Y|X]|[x]_{% p}]" class="ltx_Math" display="inline" id="A2.E44Xa.2.1.1.m1.8"><semantics id="A2.E44Xa.2.1.1.m1.8a"><mrow id="A2.E44Xa.2.1.1.m1.8.8" xref="A2.E44Xa.2.1.1.m1.8.8.cmml"><mi id="A2.E44Xa.2.1.1.m1.8.8.5" xref="A2.E44Xa.2.1.1.m1.8.8.5.cmml"></mi><mo id="A2.E44Xa.2.1.1.m1.8.8.4" xref="A2.E44Xa.2.1.1.m1.8.8.4.cmml">=</mo><mrow id="A2.E44Xa.2.1.1.m1.8.8.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.cmml"><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.cmml"><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.cmml"><mi id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.cmml"><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.cmml"><msubsup id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.cmml"><mi id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.2.cmml">μ</mi><mi id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.3" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml">θ</mi><mn id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.3" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.3.cmml">2</mn></msubsup><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.3.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A2.E44Xa.2.1.1.m1.1.1" xref="A2.E44Xa.2.1.1.m1.1.1.cmml">X</mi><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.cmml">)</mo></mrow></mrow><mo fence="false" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.cmml"><mrow id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.2" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xa.2.1.1.m1.2.2" xref="A2.E44Xa.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.3" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.3" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.3.cmml">+</mo><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.cmml"><mi id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.3" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.3.cmml">𝔼</mi><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.2.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.2.1.cmml">[</mo><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.cmml"><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.cmml"><mi id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.cmml"><msup id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.3" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.cmml"><mrow id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.2" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xa.2.1.1.m1.3.3" xref="A2.E44Xa.2.1.1.m1.3.3.cmml">x</mi><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.3" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.3" stretchy="false" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="A2.E44Xa.2.1.1.m1.8.8.3.4" xref="A2.E44Xa.2.1.1.m1.8.8.3.4.cmml">−</mo><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.cmml"><mn id="A2.E44Xa.2.1.1.m1.8.8.3.3.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.3.cmml">2</mn><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.2.cmml">⁢</mo><mi id="A2.E44Xa.2.1.1.m1.8.8.3.3.4" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.4.cmml">𝔼</mi><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.2a" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.2.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.2.1.cmml">[</mo><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.cmml"><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.cmml"><mi id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.cmml"><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.cmml"><msub id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.cmml"><mi id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.2.cmml">μ</mi><mi id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.1" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.3.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.3.2.1" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.cmml">(</mo><mi id="A2.E44Xa.2.1.1.m1.4.4" xref="A2.E44Xa.2.1.1.m1.4.4.cmml">X</mi><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.3.2.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.cmml">)</mo></mrow><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.1a" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><mi id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.4" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.4.cmml">Y</mi></mrow><mo fence="false" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.1" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.2.cmml">|</mo><msub id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.cmml"><mrow id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.2" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.1.cmml"><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xa.2.1.1.m1.5.5" xref="A2.E44Xa.2.1.1.m1.5.5.cmml">x</mi><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.3" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.3" stretchy="false" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E44Xa.2.1.1.m1.8b"><apply id="A2.E44Xa.2.1.1.m1.8.8.cmml" xref="A2.E44Xa.2.1.1.m1.8.8"><eq id="A2.E44Xa.2.1.1.m1.8.8.4.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.4"></eq><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.8.8.5.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.5">absent</csymbol><apply id="A2.E44Xa.2.1.1.m1.8.8.3.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3"><minus id="A2.E44Xa.2.1.1.m1.8.8.3.4.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.4"></minus><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2"><plus id="A2.E44Xa.2.1.1.m1.7.7.2.2.3.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.3"></plus><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1"><times id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.2"></times><ci id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.3">𝔼</ci><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1"><times id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.2"></times><ci id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2"><times id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.1"></times><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2">subscript</csymbol><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2">superscript</csymbol><ci id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.2">𝜇</ci><cn id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.3.cmml" type="integer" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.2.3">2</cn></apply><ci id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.2.2.3">𝜃</ci></apply><ci id="A2.E44Xa.2.1.1.m1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.1.1">𝑋</ci></apply><ci id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xa.2.1.1.m1.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.2.2">𝑥</ci></apply><ci id="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.3.cmml" xref="A2.E44Xa.2.1.1.m1.6.6.1.1.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2"><times id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.2"></times><ci id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.3.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.3">𝔼</ci><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1"><times id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.2"></times><ci id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xa.2.1.1.m1.3.3.cmml" xref="A2.E44Xa.2.1.1.m1.3.3">𝑥</ci></apply><ci id="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.3.cmml" xref="A2.E44Xa.2.1.1.m1.7.7.2.2.2.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3"><times id="A2.E44Xa.2.1.1.m1.8.8.3.3.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.2"></times><cn id="A2.E44Xa.2.1.1.m1.8.8.3.3.3.cmml" type="integer" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.3">2</cn><ci id="A2.E44Xa.2.1.1.m1.8.8.3.3.4.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.4">𝔼</ci><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.2">conditional</csymbol><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1"><times id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.2"></times><ci id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2"><times id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.1"></times><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.2.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.2">𝜇</ci><ci id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.3.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.2.3">𝜃</ci></apply><ci id="A2.E44Xa.2.1.1.m1.4.4.cmml" xref="A2.E44Xa.2.1.1.m1.4.4">𝑋</ci><ci id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.4.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.2.4">𝑌</ci></apply><ci id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3">subscript</csymbol><apply id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.1.1.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xa.2.1.1.m1.5.5.cmml" xref="A2.E44Xa.2.1.1.m1.5.5">𝑥</ci></apply><ci id="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.3.cmml" xref="A2.E44Xa.2.1.1.m1.8.8.3.3.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44Xa.2.1.1.m1.8c">\displaystyle=\mathbb{E}[\mathbb{E}[\mu^{2}_{\theta}(X)|X]|[x]_{p}]+\mathbb{E}% [\mathbb{E}[Y^{2}|X]|[x]_{p}]-2\mathbb{E}[\mathbb{E}[\mu_{\theta}(X)Y|X]|[x]_{% p}]</annotation><annotation encoding="application/x-llamapun" id="A2.E44Xa.2.1.1.m1.8d">= blackboard_E [ blackboard_E [ italic_μ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] + blackboard_E [ blackboard_E [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] - 2 blackboard_E [ blackboard_E [ italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E44Xa.4.1.1.1">linearity of </span><math alttext="\mathbb{E}" class="ltx_markedasmath" display="inline" id="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1"><semantics id="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1a"><mi id="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1.1" xref="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml">𝔼</mi><annotation-xml encoding="MathML-Content" id="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1b"><ci id="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1.1.cmml" xref="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1.1">𝔼</ci></annotation-xml><annotation encoding="application/x-tex" id="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1c">\mathbb{E}</annotation><annotation encoding="application/x-llamapun" id="A2.E44.m1.1.1.1.1.1.1.1.m1.mf.1d">blackboard_E</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E44Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mu_{\theta}^{2}(x)+\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]_{p}]-2\mu% _{\theta}(x)\mathbb{E}[\mathbb{E}[Y|X]|[x]_{p}]" class="ltx_Math" display="inline" id="A2.E44Xb.2.1.1.m1.6"><semantics id="A2.E44Xb.2.1.1.m1.6a"><mrow id="A2.E44Xb.2.1.1.m1.6.6" xref="A2.E44Xb.2.1.1.m1.6.6.cmml"><mi id="A2.E44Xb.2.1.1.m1.6.6.4" xref="A2.E44Xb.2.1.1.m1.6.6.4.cmml"></mi><mo id="A2.E44Xb.2.1.1.m1.6.6.3" xref="A2.E44Xb.2.1.1.m1.6.6.3.cmml">=</mo><mrow id="A2.E44Xb.2.1.1.m1.6.6.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.cmml"><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.cmml"><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.cmml"><msubsup id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.cmml"><mi id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.2.cmml">μ</mi><mi id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.3.cmml">θ</mi><mn id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.3.cmml">2</mn></msubsup><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.1.cmml">⁢</mo><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.3.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.cmml"><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.3.2.1" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.cmml">(</mo><mi id="A2.E44Xb.2.1.1.m1.1.1" xref="A2.E44Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.3.2.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.cmml">)</mo></mrow></mrow><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.2.cmml">+</mo><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.cmml"><mi id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.2.cmml"><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.cmml"><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml"><msup id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.cmml"><mrow id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.2" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xb.2.1.1.m1.2.2" xref="A2.E44Xb.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.3" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="A2.E44Xb.2.1.1.m1.6.6.2.3" xref="A2.E44Xb.2.1.1.m1.6.6.2.3.cmml">−</mo><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.cmml"><mn id="A2.E44Xb.2.1.1.m1.6.6.2.2.3" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.3.cmml">2</mn><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.2.cmml">⁢</mo><msub id="A2.E44Xb.2.1.1.m1.6.6.2.2.4" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.4.cmml"><mi id="A2.E44Xb.2.1.1.m1.6.6.2.2.4.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.4.2.cmml">μ</mi><mi id="A2.E44Xb.2.1.1.m1.6.6.2.2.4.3" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.4.3.cmml">θ</mi></msub><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.2a" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.2.cmml">⁢</mo><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2.5.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.cmml"><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.5.2.1" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.cmml">(</mo><mi id="A2.E44Xb.2.1.1.m1.3.3" xref="A2.E44Xb.2.1.1.m1.3.3.cmml">x</mi><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.5.2.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.cmml">)</mo></mrow><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.2b" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.2.cmml">⁢</mo><mi id="A2.E44Xb.2.1.1.m1.6.6.2.2.6" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.6.cmml">𝔼</mi><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.2c" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.2.cmml">⁢</mo><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.2.cmml"><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.2.1.cmml">[</mo><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.cmml"><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.cmml"><mi id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.3" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.3" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.cmml"><mrow id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.2" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xb.2.1.1.m1.4.4" xref="A2.E44Xb.2.1.1.m1.4.4.cmml">x</mi><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.3" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.3" stretchy="false" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E44Xb.2.1.1.m1.6b"><apply id="A2.E44Xb.2.1.1.m1.6.6.cmml" xref="A2.E44Xb.2.1.1.m1.6.6"><eq id="A2.E44Xb.2.1.1.m1.6.6.3.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.3"></eq><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.6.6.4.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.4">absent</csymbol><apply id="A2.E44Xb.2.1.1.m1.6.6.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2"><minus id="A2.E44Xb.2.1.1.m1.6.6.2.3.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.3"></minus><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1"><plus id="A2.E44Xb.2.1.1.m1.5.5.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.2"></plus><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3"><times id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.1"></times><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2"><csymbol cd="ambiguous" id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2">superscript</csymbol><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2"><csymbol cd="ambiguous" id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2">subscript</csymbol><ci id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.2">𝜇</ci><ci id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.3.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.2.3">𝜃</ci></apply><cn id="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.3.cmml" type="integer" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.3.2.3">2</cn></apply><ci id="A2.E44Xb.2.1.1.m1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.1.1">𝑥</ci></apply><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1"><times id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.2"></times><ci id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.3">𝔼</ci><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1"><times id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.2"></times><ci id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xb.2.1.1.m1.2.2.cmml" xref="A2.E44Xb.2.1.1.m1.2.2">𝑥</ci></apply><ci id="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.3.cmml" xref="A2.E44Xb.2.1.1.m1.5.5.1.1.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2"><times id="A2.E44Xb.2.1.1.m1.6.6.2.2.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.2"></times><cn id="A2.E44Xb.2.1.1.m1.6.6.2.2.3.cmml" type="integer" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.3">2</cn><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.4.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.4"><csymbol cd="ambiguous" id="A2.E44Xb.2.1.1.m1.6.6.2.2.4.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.4">subscript</csymbol><ci id="A2.E44Xb.2.1.1.m1.6.6.2.2.4.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.4.2">𝜇</ci><ci id="A2.E44Xb.2.1.1.m1.6.6.2.2.4.3.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.4.3">𝜃</ci></apply><ci id="A2.E44Xb.2.1.1.m1.3.3.cmml" xref="A2.E44Xb.2.1.1.m1.3.3">𝑥</ci><ci id="A2.E44Xb.2.1.1.m1.6.6.2.2.6.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.6">𝔼</ci><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1"><times id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.2"></times><ci id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xb.2.1.1.m1.4.4.cmml" xref="A2.E44Xb.2.1.1.m1.4.4">𝑥</ci></apply><ci id="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.3.cmml" xref="A2.E44Xb.2.1.1.m1.6.6.2.2.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44Xb.2.1.1.m1.6c">\displaystyle=\mu_{\theta}^{2}(x)+\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]_{p}]-2\mu% _{\theta}(x)\mathbb{E}[\mathbb{E}[Y|X]|[x]_{p}]</annotation><annotation encoding="application/x-llamapun" id="A2.E44Xb.2.1.1.m1.6d">= italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) + blackboard_E [ blackboard_E [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] - 2 italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) blackboard_E [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <math alttext="\mu_{\theta}" class="ltx_markedasmath" display="inline" id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1"><semantics id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1a"><msub id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1" xref="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.cmml"><mi id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.2" xref="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.2.cmml">μ</mi><mi id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.3" xref="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1b"><apply id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.cmml" xref="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1"><csymbol cd="ambiguous" id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.1.cmml" xref="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1">subscript</csymbol><ci id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.2.cmml" xref="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.2">𝜇</ci><ci id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.3.cmml" xref="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1c">\mu_{\theta}</annotation><annotation encoding="application/x-llamapun" id="A2.E44.m1.2.2.2.1.1.1.1.m1.mf.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E44Xb.4.1.1.1"> is a function of </span><math alttext="[x]_{p}" class="ltx_markedasmath" display="inline" id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1"><semantics id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1a"><msub id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.cmml"><mrow id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.2" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.1.cmml"><mo id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.2.1" stretchy="false" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.1.1.cmml">[</mo><mi id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.1" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.1.cmml">x</mi><mo id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.2.2" stretchy="false" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.1.1.cmml">]</mo></mrow><mi id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.3" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.3.cmml">p</mi></msub><annotation-xml encoding="MathML-Content" id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1b"><apply id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.cmml" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2"><csymbol cd="ambiguous" id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.1.cmml" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2">subscript</csymbol><apply id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.1.cmml" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.2"><csymbol cd="latexml" id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.1.1.cmml" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.2.2.1">delimited-[]</csymbol><ci id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.1.cmml" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.1">𝑥</ci></apply><ci id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.3.cmml" xref="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1.2.3">𝑝</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1c">[x]_{p}</annotation><annotation encoding="application/x-llamapun" id="A2.E44.m1.3.3.3.2.2.2.2.m2.mf.1d">[ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E44Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]_{p}]-\mu^{2}_{\theta}(x)" class="ltx_Math" display="inline" id="A2.E44Xc.2.1.1.m1.3"><semantics id="A2.E44Xc.2.1.1.m1.3a"><mrow id="A2.E44Xc.2.1.1.m1.3.3" xref="A2.E44Xc.2.1.1.m1.3.3.cmml"><mi id="A2.E44Xc.2.1.1.m1.3.3.3" xref="A2.E44Xc.2.1.1.m1.3.3.3.cmml"></mi><mo id="A2.E44Xc.2.1.1.m1.3.3.2" xref="A2.E44Xc.2.1.1.m1.3.3.2.cmml">=</mo><mrow id="A2.E44Xc.2.1.1.m1.3.3.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.cmml"><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.cmml"><mi id="A2.E44Xc.2.1.1.m1.3.3.1.1.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><mi id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><msup id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.cmml"><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xc.2.1.1.m1.1.1" xref="A2.E44Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E44Xc.2.1.1.m1.3.3.1.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.2.cmml">−</mo><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.cmml"><msubsup id="A2.E44Xc.2.1.1.m1.3.3.1.3.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2.cmml"><mi id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.2.cmml">μ</mi><mi id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2.3.cmml">θ</mi><mn id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.3" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.3.cmml">2</mn></msubsup><mo id="A2.E44Xc.2.1.1.m1.3.3.1.3.1" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.1.cmml">⁢</mo><mrow id="A2.E44Xc.2.1.1.m1.3.3.1.3.3.2" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.cmml"><mo id="A2.E44Xc.2.1.1.m1.3.3.1.3.3.2.1" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.cmml">(</mo><mi id="A2.E44Xc.2.1.1.m1.2.2" xref="A2.E44Xc.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E44Xc.2.1.1.m1.3.3.1.3.3.2.2" stretchy="false" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E44Xc.2.1.1.m1.3b"><apply id="A2.E44Xc.2.1.1.m1.3.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3"><eq id="A2.E44Xc.2.1.1.m1.3.3.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.2"></eq><csymbol cd="latexml" id="A2.E44Xc.2.1.1.m1.3.3.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.3">absent</csymbol><apply id="A2.E44Xc.2.1.1.m1.3.3.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1"><minus id="A2.E44Xc.2.1.1.m1.3.3.1.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.2"></minus><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1"><times id="A2.E44Xc.2.1.1.m1.3.3.1.1.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.2"></times><ci id="A2.E44Xc.2.1.1.m1.3.3.1.1.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><ci id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xc.2.1.1.m1.1.1.cmml" xref="A2.E44Xc.2.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply><apply id="A2.E44Xc.2.1.1.m1.3.3.1.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3"><times id="A2.E44Xc.2.1.1.m1.3.3.1.3.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.1"></times><apply id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2"><csymbol cd="ambiguous" id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2">subscript</csymbol><apply id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2"><csymbol cd="ambiguous" id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.1.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2">superscript</csymbol><ci id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.2.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.2">𝜇</ci><cn id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.3.cmml" type="integer" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2.2.3">2</cn></apply><ci id="A2.E44Xc.2.1.1.m1.3.3.1.3.2.3.cmml" xref="A2.E44Xc.2.1.1.m1.3.3.1.3.2.3">𝜃</ci></apply><ci id="A2.E44Xc.2.1.1.m1.2.2.cmml" xref="A2.E44Xc.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44Xc.2.1.1.m1.3c">\displaystyle=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]_{p}]-\mu^{2}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E44Xc.2.1.1.m1.3d">= blackboard_E [ blackboard_E [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] - italic_μ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E44Xc.4.1.1.1">Eq. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#A2.E41" title="Equation 41 ‣ Definition B.1. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">41</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E44Xc.4.1.1.2">)</span> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E44Xd"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]_{p}]-\mathbb{E}[\mathbb{E}^{2% }[Y|X]|[x]_{p}]+\mathbb{E}[\mathbb{E}^{2}[Y|X]|[x]_{p}]-\mu^{2}_{\theta}(x)" class="ltx_Math" display="inline" id="A2.E44Xd.2.1.1.m1.7"><semantics id="A2.E44Xd.2.1.1.m1.7a"><mrow id="A2.E44Xd.2.1.1.m1.7.7" xref="A2.E44Xd.2.1.1.m1.7.7.cmml"><mi id="A2.E44Xd.2.1.1.m1.7.7.5" xref="A2.E44Xd.2.1.1.m1.7.7.5.cmml"></mi><mo id="A2.E44Xd.2.1.1.m1.7.7.4" xref="A2.E44Xd.2.1.1.m1.7.7.4.cmml">=</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.cmml"><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.cmml"><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.cmml"><mrow id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.cmml"><mi id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.2.cmml"><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml"><mrow id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.cmml"><msup id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.3" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml">2</mn></msup><mo fence="false" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml"><mrow id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xd.2.1.1.m1.1.1" xref="A2.E44Xd.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.3" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.3" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.3.cmml">−</mo><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.cmml"><mi id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.3" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.3.cmml">𝔼</mi><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.2.cmml">⁢</mo><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.2.cmml"><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.2.1.cmml">[</mo><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.cmml"><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.cmml"><msup id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.cmml"><mi id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.3" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.cmml"><mrow id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.2" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xd.2.1.1.m1.2.2" xref="A2.E44Xd.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.3" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.3" stretchy="false" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.4" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.4.cmml">+</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.cmml"><mi id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.3.cmml">𝔼</mi><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.2.cmml">⁢</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.2.cmml"><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.2.1.cmml">[</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.cmml"><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.cmml"><msup id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.cmml"><mi id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.2.cmml"><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.1" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.2.cmml">|</mo><msub id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.cmml"><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.1.cmml"><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xd.2.1.1.m1.3.3" xref="A2.E44Xd.2.1.1.m1.3.3.cmml">x</mi><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.3" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="A2.E44Xd.2.1.1.m1.7.7.3.4" xref="A2.E44Xd.2.1.1.m1.7.7.3.4.cmml">−</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.5" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.cmml"><msubsup id="A2.E44Xd.2.1.1.m1.7.7.3.5.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2.cmml"><mi id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.2.cmml">μ</mi><mi id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2.3.cmml">θ</mi><mn id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.3" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.3.cmml">2</mn></msubsup><mo id="A2.E44Xd.2.1.1.m1.7.7.3.5.1" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.1.cmml">⁢</mo><mrow id="A2.E44Xd.2.1.1.m1.7.7.3.5.3.2" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.cmml"><mo id="A2.E44Xd.2.1.1.m1.7.7.3.5.3.2.1" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.cmml">(</mo><mi id="A2.E44Xd.2.1.1.m1.4.4" xref="A2.E44Xd.2.1.1.m1.4.4.cmml">x</mi><mo id="A2.E44Xd.2.1.1.m1.7.7.3.5.3.2.2" stretchy="false" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E44Xd.2.1.1.m1.7b"><apply id="A2.E44Xd.2.1.1.m1.7.7.cmml" xref="A2.E44Xd.2.1.1.m1.7.7"><eq id="A2.E44Xd.2.1.1.m1.7.7.4.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.4"></eq><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.7.7.5.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.5">absent</csymbol><apply id="A2.E44Xd.2.1.1.m1.7.7.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3"><minus id="A2.E44Xd.2.1.1.m1.7.7.3.4.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.4"></minus><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3"><plus id="A2.E44Xd.2.1.1.m1.7.7.3.3.4.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.4"></plus><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2"><minus id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.3.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.3"></minus><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1"><times id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.2"></times><ci id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1"><times id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2"></times><ci id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2">superscript</csymbol><ci id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xd.2.1.1.m1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.3.cmml" xref="A2.E44Xd.2.1.1.m1.5.5.1.1.1.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2"><times id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.2"></times><ci id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.3.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.3">𝔼</ci><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1"><times id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.2"></times><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3">superscript</csymbol><ci id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.2">𝔼</ci><cn id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.3.cmml" type="integer" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.3.3">2</cn></apply><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xd.2.1.1.m1.2.2.cmml" xref="A2.E44Xd.2.1.1.m1.2.2">𝑥</ci></apply><ci id="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.3.cmml" xref="A2.E44Xd.2.1.1.m1.6.6.2.2.2.2.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3"><times id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.2"></times><ci id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.3">𝔼</ci><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.2">conditional</csymbol><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1"><times id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.2"></times><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3">superscript</csymbol><ci id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.2">𝔼</ci><cn id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.3.cmml" type="integer" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.3.3">2</cn></apply><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3">subscript</csymbol><apply id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.1.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xd.2.1.1.m1.3.3.cmml" xref="A2.E44Xd.2.1.1.m1.3.3">𝑥</ci></apply><ci id="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.3.3.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply><apply id="A2.E44Xd.2.1.1.m1.7.7.3.5.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5"><times id="A2.E44Xd.2.1.1.m1.7.7.3.5.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.1"></times><apply id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2">subscript</csymbol><apply id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2"><csymbol cd="ambiguous" id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.1.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2">superscript</csymbol><ci id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.2.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.2">𝜇</ci><cn id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.3.cmml" type="integer" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2.2.3">2</cn></apply><ci id="A2.E44Xd.2.1.1.m1.7.7.3.5.2.3.cmml" xref="A2.E44Xd.2.1.1.m1.7.7.3.5.2.3">𝜃</ci></apply><ci id="A2.E44Xd.2.1.1.m1.4.4.cmml" xref="A2.E44Xd.2.1.1.m1.4.4">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44Xd.2.1.1.m1.7c">\displaystyle=\mathbb{E}[\mathbb{E}[Y^{2}|X]|[x]_{p}]-\mathbb{E}[\mathbb{E}^{2% }[Y|X]|[x]_{p}]+\mathbb{E}[\mathbb{E}^{2}[Y|X]|[x]_{p}]-\mu^{2}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E44Xd.2.1.1.m1.7d">= blackboard_E [ blackboard_E [ italic_Y start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] - blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] + blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] - italic_μ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E44Xd.4.1.1.1">add and subtract</span></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E44Xe"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{V}[Y|X]|[x]_{p}]+\mathbb{V}[\mathbb{E}[Y|X]|[% x]_{p}]" class="ltx_Math" display="inline" id="A2.E44Xe.2.1.1.m1.4"><semantics id="A2.E44Xe.2.1.1.m1.4a"><mrow id="A2.E44Xe.2.1.1.m1.4.4" xref="A2.E44Xe.2.1.1.m1.4.4.cmml"><mi id="A2.E44Xe.2.1.1.m1.4.4.4" xref="A2.E44Xe.2.1.1.m1.4.4.4.cmml"></mi><mo id="A2.E44Xe.2.1.1.m1.4.4.3" xref="A2.E44Xe.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A2.E44Xe.2.1.1.m1.4.4.2" xref="A2.E44Xe.2.1.1.m1.4.4.2.cmml"><mrow id="A2.E44Xe.2.1.1.m1.3.3.1.1" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.cmml"><mi id="A2.E44Xe.2.1.1.m1.3.3.1.1.3" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.2" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><mi id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml">𝕍</mi><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.cmml"><mrow id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xe.2.1.1.m1.1.1" xref="A2.E44Xe.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.3" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E44Xe.2.1.1.m1.4.4.2.3" xref="A2.E44Xe.2.1.1.m1.4.4.2.3.cmml">+</mo><mrow id="A2.E44Xe.2.1.1.m1.4.4.2.2" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.cmml"><mi id="A2.E44Xe.2.1.1.m1.4.4.2.2.3" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.3.cmml">𝕍</mi><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.2" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.2.cmml">⁢</mo><mrow id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.2.cmml"><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.2" stretchy="false" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.2.1.cmml">[</mo><mrow id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.cmml"><mrow id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.cmml"><mi id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.3" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.2" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><mi id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.2" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.cmml"><mrow id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.2" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E44Xe.2.1.1.m1.2.2" xref="A2.E44Xe.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.3" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.3.cmml">p</mi></msub></mrow><mo id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.3" stretchy="false" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E44Xe.2.1.1.m1.4b"><apply id="A2.E44Xe.2.1.1.m1.4.4.cmml" xref="A2.E44Xe.2.1.1.m1.4.4"><eq id="A2.E44Xe.2.1.1.m1.4.4.3.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.4.4.4.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.4">absent</csymbol><apply id="A2.E44Xe.2.1.1.m1.4.4.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2"><plus id="A2.E44Xe.2.1.1.m1.4.4.2.3.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.3"></plus><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1"><times id="A2.E44Xe.2.1.1.m1.3.3.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.2"></times><ci id="A2.E44Xe.2.1.1.m1.3.3.1.1.3.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><ci id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.3">𝕍</ci><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xe.2.1.1.m1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml" xref="A2.E44Xe.2.1.1.m1.3.3.1.1.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2"><times id="A2.E44Xe.2.1.1.m1.4.4.2.2.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.2"></times><ci id="A2.E44Xe.2.1.1.m1.4.4.2.2.3.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.3">𝕍</ci><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.2.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1"><times id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.2"></times><ci id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.3">𝔼</ci><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E44Xe.2.1.1.m1.2.2.cmml" xref="A2.E44Xe.2.1.1.m1.2.2">𝑥</ci></apply><ci id="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.3.cmml" xref="A2.E44Xe.2.1.1.m1.4.4.2.2.1.1.1.3.3">𝑝</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E44Xe.2.1.1.m1.4c">\displaystyle=\mathbb{E}[\mathbb{V}[Y|X]|[x]_{p}]+\mathbb{V}[\mathbb{E}[Y|X]|[% x]_{p}]</annotation><annotation encoding="application/x-llamapun" id="A2.E44Xe.2.1.1.m1.4d">= blackboard_E [ blackboard_V [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ] + blackboard_V [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_p end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E44Xe.4.1.1.1">def. of </span><math alttext="\mathbb{V}" class="ltx_markedasmath" display="inline" id="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1"><semantics id="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1a"><mi id="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1.1" xref="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1.1.cmml">𝕍</mi><annotation-xml encoding="MathML-Content" id="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1b"><ci id="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1.1.cmml" xref="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1.1">𝕍</ci></annotation-xml><annotation encoding="application/x-tex" id="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1c">\mathbb{V}</annotation><annotation encoding="application/x-llamapun" id="A2.E44.m1.4.4.4.1.1.1.1.m1.mf.1d">blackboard_V</annotation></semantics></math> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A2.1.p1.1">∎</p> </div> </div> <div class="ltx_para" id="A2.p3"> <p class="ltx_p" id="A2.p3.1">It is possible to extend the notion of variance calibration to models trained to predict pairs as:</p> </div> <div class="ltx_theorem ltx_theorem_definition" id="A2.Thmtheorem3"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem3.1.1.1">Definition B.3</span></span><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem3.2.2">.</span> </h6> <div class="ltx_para" id="A2.Thmtheorem3.p1"> <p class="ltx_p" id="A2.Thmtheorem3.p1.2">Let <math alttext="p_{\theta}(y_{1},y_{2}|x)" class="ltx_Math" display="inline" id="A2.Thmtheorem3.p1.1.m1.2"><semantics id="A2.Thmtheorem3.p1.1.m1.2a"><mrow id="A2.Thmtheorem3.p1.1.m1.2.2" xref="A2.Thmtheorem3.p1.1.m1.2.2.cmml"><msub id="A2.Thmtheorem3.p1.1.m1.2.2.4" xref="A2.Thmtheorem3.p1.1.m1.2.2.4.cmml"><mi id="A2.Thmtheorem3.p1.1.m1.2.2.4.2" xref="A2.Thmtheorem3.p1.1.m1.2.2.4.2.cmml">p</mi><mi id="A2.Thmtheorem3.p1.1.m1.2.2.4.3" xref="A2.Thmtheorem3.p1.1.m1.2.2.4.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem3.p1.1.m1.2.2.3" xref="A2.Thmtheorem3.p1.1.m1.2.2.3.cmml">⁢</mo><mrow id="A2.Thmtheorem3.p1.1.m1.2.2.2.2" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml"><mo id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.3" stretchy="false" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml">(</mo><msub id="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1" xref="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.cmml"><mi id="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2" xref="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2.cmml">y</mi><mn id="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3" xref="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.4" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml">,</mo><mrow id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.cmml"><msub id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.cmml"><mi id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2.cmml">y</mi><mn id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3.cmml">x</mi></mrow><mo id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.5" stretchy="false" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem3.p1.1.m1.2b"><apply id="A2.Thmtheorem3.p1.1.m1.2.2.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2"><times id="A2.Thmtheorem3.p1.1.m1.2.2.3.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.3"></times><apply id="A2.Thmtheorem3.p1.1.m1.2.2.4.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.4"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.1.m1.2.2.4.1.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.4">subscript</csymbol><ci id="A2.Thmtheorem3.p1.1.m1.2.2.4.2.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.4.2">𝑝</ci><ci id="A2.Thmtheorem3.p1.1.m1.2.2.4.3.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.4.3">𝜃</ci></apply><interval closure="open" id="A2.Thmtheorem3.p1.1.m1.2.2.2.3.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2"><apply id="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2.cmml" xref="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.2">𝑦</ci><cn id="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="A2.Thmtheorem3.p1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.2">𝑦</ci><cn id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3.cmml" xref="A2.Thmtheorem3.p1.1.m1.2.2.2.2.2.3">𝑥</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem3.p1.1.m1.2c">p_{\theta}(y_{1},y_{2}|x)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem3.p1.1.m1.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> be a model whose means is <math alttext="\vec{\mu_{\theta}}(x)=[\mu_{\theta,1}(x),\mu_{\theta,2}(x)]^{\top}" class="ltx_Math" display="inline" id="A2.Thmtheorem3.p1.2.m2.9"><semantics id="A2.Thmtheorem3.p1.2.m2.9a"><mrow id="A2.Thmtheorem3.p1.2.m2.9.9" xref="A2.Thmtheorem3.p1.2.m2.9.9.cmml"><mrow id="A2.Thmtheorem3.p1.2.m2.9.9.4" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.cmml"><mover accent="true" id="A2.Thmtheorem3.p1.2.m2.9.9.4.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.cmml"><msub id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.cmml"><mi id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.2.cmml">μ</mi><mi id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.3" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.1" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.1.cmml">→</mo></mover><mo id="A2.Thmtheorem3.p1.2.m2.9.9.4.1" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.1.cmml">⁢</mo><mrow id="A2.Thmtheorem3.p1.2.m2.9.9.4.3.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.cmml"><mo id="A2.Thmtheorem3.p1.2.m2.9.9.4.3.2.1" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.cmml">(</mo><mi id="A2.Thmtheorem3.p1.2.m2.5.5" xref="A2.Thmtheorem3.p1.2.m2.5.5.cmml">x</mi><mo id="A2.Thmtheorem3.p1.2.m2.9.9.4.3.2.2" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.cmml">)</mo></mrow></mrow><mo id="A2.Thmtheorem3.p1.2.m2.9.9.3" xref="A2.Thmtheorem3.p1.2.m2.9.9.3.cmml">=</mo><msup id="A2.Thmtheorem3.p1.2.m2.9.9.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.cmml"><mrow id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.3.cmml"><mo id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.3" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.3.cmml">[</mo><mrow id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.cmml"><msub id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2.cmml"><mi id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2.2" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2.2.cmml">μ</mi><mrow id="A2.Thmtheorem3.p1.2.m2.2.2.2.4" xref="A2.Thmtheorem3.p1.2.m2.2.2.2.3.cmml"><mi id="A2.Thmtheorem3.p1.2.m2.1.1.1.1" xref="A2.Thmtheorem3.p1.2.m2.1.1.1.1.cmml">θ</mi><mo id="A2.Thmtheorem3.p1.2.m2.2.2.2.4.1" xref="A2.Thmtheorem3.p1.2.m2.2.2.2.3.cmml">,</mo><mn id="A2.Thmtheorem3.p1.2.m2.2.2.2.2" xref="A2.Thmtheorem3.p1.2.m2.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.1" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.1.cmml">⁢</mo><mrow id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.3.2" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.cmml"><mo id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.3.2.1" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.cmml">(</mo><mi id="A2.Thmtheorem3.p1.2.m2.6.6" xref="A2.Thmtheorem3.p1.2.m2.6.6.cmml">x</mi><mo id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.3.2.2" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.4" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.3.cmml">,</mo><mrow id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.cmml"><msub id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2.cmml"><mi id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2.2.cmml">μ</mi><mrow id="A2.Thmtheorem3.p1.2.m2.4.4.2.4" xref="A2.Thmtheorem3.p1.2.m2.4.4.2.3.cmml"><mi id="A2.Thmtheorem3.p1.2.m2.3.3.1.1" xref="A2.Thmtheorem3.p1.2.m2.3.3.1.1.cmml">θ</mi><mo id="A2.Thmtheorem3.p1.2.m2.4.4.2.4.1" xref="A2.Thmtheorem3.p1.2.m2.4.4.2.3.cmml">,</mo><mn id="A2.Thmtheorem3.p1.2.m2.4.4.2.2" xref="A2.Thmtheorem3.p1.2.m2.4.4.2.2.cmml">2</mn></mrow></msub><mo id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.1" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.1.cmml">⁢</mo><mrow id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.3.2" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.cmml"><mo id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.3.2.1" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.cmml">(</mo><mi id="A2.Thmtheorem3.p1.2.m2.7.7" xref="A2.Thmtheorem3.p1.2.m2.7.7.cmml">x</mi><mo id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.3.2.2" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.cmml">)</mo></mrow></mrow><mo id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.5" stretchy="false" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.3.cmml">]</mo></mrow><mo id="A2.Thmtheorem3.p1.2.m2.9.9.2.4" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.4.cmml">⊤</mo></msup></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem3.p1.2.m2.9b"><apply id="A2.Thmtheorem3.p1.2.m2.9.9.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9"><eq id="A2.Thmtheorem3.p1.2.m2.9.9.3.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.3"></eq><apply id="A2.Thmtheorem3.p1.2.m2.9.9.4.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4"><times id="A2.Thmtheorem3.p1.2.m2.9.9.4.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.1"></times><apply id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2"><ci id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.1">→</ci><apply id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2">subscript</csymbol><ci id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.2">𝜇</ci><ci id="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.3.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.4.2.2.3">𝜃</ci></apply></apply><ci id="A2.Thmtheorem3.p1.2.m2.5.5.cmml" xref="A2.Thmtheorem3.p1.2.m2.5.5">𝑥</ci></apply><apply id="A2.Thmtheorem3.p1.2.m2.9.9.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.2.m2.9.9.2.3.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2">superscript</csymbol><interval closure="closed" id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.3.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2"><apply id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1"><times id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.1"></times><apply id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2">subscript</csymbol><ci id="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.8.8.1.1.1.1.2.2">𝜇</ci><list id="A2.Thmtheorem3.p1.2.m2.2.2.2.3.cmml" xref="A2.Thmtheorem3.p1.2.m2.2.2.2.4"><ci id="A2.Thmtheorem3.p1.2.m2.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.1.1.1.1">𝜃</ci><cn id="A2.Thmtheorem3.p1.2.m2.2.2.2.2.cmml" type="integer" xref="A2.Thmtheorem3.p1.2.m2.2.2.2.2">1</cn></list></apply><ci id="A2.Thmtheorem3.p1.2.m2.6.6.cmml" xref="A2.Thmtheorem3.p1.2.m2.6.6">𝑥</ci></apply><apply id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2"><times id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.1"></times><apply id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2">subscript</csymbol><ci id="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.2.2.2.2.2">𝜇</ci><list id="A2.Thmtheorem3.p1.2.m2.4.4.2.3.cmml" xref="A2.Thmtheorem3.p1.2.m2.4.4.2.4"><ci id="A2.Thmtheorem3.p1.2.m2.3.3.1.1.cmml" xref="A2.Thmtheorem3.p1.2.m2.3.3.1.1">𝜃</ci><cn id="A2.Thmtheorem3.p1.2.m2.4.4.2.2.cmml" type="integer" xref="A2.Thmtheorem3.p1.2.m2.4.4.2.2">2</cn></list></apply><ci id="A2.Thmtheorem3.p1.2.m2.7.7.cmml" xref="A2.Thmtheorem3.p1.2.m2.7.7">𝑥</ci></apply></interval><csymbol cd="latexml" id="A2.Thmtheorem3.p1.2.m2.9.9.2.4.cmml" xref="A2.Thmtheorem3.p1.2.m2.9.9.2.4">top</csymbol></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem3.p1.2.m2.9c">\vec{\mu_{\theta}}(x)=[\mu_{\theta,1}(x),\mu_{\theta,2}(x)]^{\top}</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem3.p1.2.m2.9d">over→ start_ARG italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT end_ARG ( italic_x ) = [ italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT ( italic_x ) , italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT ( italic_x ) ] start_POSTSUPERSCRIPT ⊤ end_POSTSUPERSCRIPT</annotation></semantics></math> and whose covariance matrix is given by:</p> <table class="ltx_equation ltx_eqn_table" id="A2.E45"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\Sigma_{\theta}(x)=\begin{bmatrix}\sigma_{\theta,1}^{2}(x)&\mathrm{cov}_{% \theta}(x)\\ \mathrm{cov}_{\theta}(x)&\sigma_{\theta,2}^{2}(x)\end{bmatrix}" class="ltx_Math" display="block" id="A2.E45.m1.2"><semantics id="A2.E45.m1.2a"><mrow id="A2.E45.m1.2.3" xref="A2.E45.m1.2.3.cmml"><mrow id="A2.E45.m1.2.3.2" xref="A2.E45.m1.2.3.2.cmml"><msub id="A2.E45.m1.2.3.2.2" xref="A2.E45.m1.2.3.2.2.cmml"><mi id="A2.E45.m1.2.3.2.2.2" mathvariant="normal" xref="A2.E45.m1.2.3.2.2.2.cmml">Σ</mi><mi id="A2.E45.m1.2.3.2.2.3" xref="A2.E45.m1.2.3.2.2.3.cmml">θ</mi></msub><mo id="A2.E45.m1.2.3.2.1" xref="A2.E45.m1.2.3.2.1.cmml">⁢</mo><mrow id="A2.E45.m1.2.3.2.3.2" xref="A2.E45.m1.2.3.2.cmml"><mo id="A2.E45.m1.2.3.2.3.2.1" stretchy="false" xref="A2.E45.m1.2.3.2.cmml">(</mo><mi id="A2.E45.m1.2.2" xref="A2.E45.m1.2.2.cmml">x</mi><mo id="A2.E45.m1.2.3.2.3.2.2" stretchy="false" xref="A2.E45.m1.2.3.2.cmml">)</mo></mrow></mrow><mo id="A2.E45.m1.2.3.1" xref="A2.E45.m1.2.3.1.cmml">=</mo><mrow id="A2.E45.m1.1.1.3" xref="A2.E45.m1.1.1.2.cmml"><mo id="A2.E45.m1.1.1.3.1" xref="A2.E45.m1.1.1.2.1.cmml">[</mo><mtable columnspacing="5pt" displaystyle="true" id="A2.E45.m1.1.1.1.1" rowspacing="0pt" xref="A2.E45.m1.1.1.1.1.cmml"><mtr id="A2.E45.m1.1.1.1.1a" xref="A2.E45.m1.1.1.1.1.cmml"><mtd id="A2.E45.m1.1.1.1.1b" xref="A2.E45.m1.1.1.1.1.cmml"><mrow id="A2.E45.m1.1.1.1.1.3.3.3.3" xref="A2.E45.m1.1.1.1.1.3.3.3.3.cmml"><msubsup id="A2.E45.m1.1.1.1.1.3.3.3.3.5" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5.cmml"><mi id="A2.E45.m1.1.1.1.1.3.3.3.3.5.2.2" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5.2.2.cmml">σ</mi><mrow id="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.4" xref="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.3.cmml"><mi id="A2.E45.m1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E45.m1.1.1.1.1.1.1.1.1.1.1.1.cmml">θ</mi><mo id="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.4.1" xref="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.3.cmml">,</mo><mn id="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.2" xref="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.2.cmml">1</mn></mrow><mn id="A2.E45.m1.1.1.1.1.3.3.3.3.5.3" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5.3.cmml">2</mn></msubsup><mo id="A2.E45.m1.1.1.1.1.3.3.3.3.4" xref="A2.E45.m1.1.1.1.1.3.3.3.3.4.cmml">⁢</mo><mrow id="A2.E45.m1.1.1.1.1.3.3.3.3.6.2" xref="A2.E45.m1.1.1.1.1.3.3.3.3.cmml"><mo id="A2.E45.m1.1.1.1.1.3.3.3.3.6.2.1" stretchy="false" xref="A2.E45.m1.1.1.1.1.3.3.3.3.cmml">(</mo><mi id="A2.E45.m1.1.1.1.1.3.3.3.3.3" xref="A2.E45.m1.1.1.1.1.3.3.3.3.3.cmml">x</mi><mo id="A2.E45.m1.1.1.1.1.3.3.3.3.6.2.2" stretchy="false" xref="A2.E45.m1.1.1.1.1.3.3.3.3.cmml">)</mo></mrow></mrow></mtd><mtd id="A2.E45.m1.1.1.1.1c" xref="A2.E45.m1.1.1.1.1.cmml"><mrow id="A2.E45.m1.1.1.1.1.4.4.4.1" xref="A2.E45.m1.1.1.1.1.4.4.4.1.cmml"><msub id="A2.E45.m1.1.1.1.1.4.4.4.1.3" xref="A2.E45.m1.1.1.1.1.4.4.4.1.3.cmml"><mi id="A2.E45.m1.1.1.1.1.4.4.4.1.3.2" xref="A2.E45.m1.1.1.1.1.4.4.4.1.3.2.cmml">cov</mi><mi id="A2.E45.m1.1.1.1.1.4.4.4.1.3.3" xref="A2.E45.m1.1.1.1.1.4.4.4.1.3.3.cmml">θ</mi></msub><mo id="A2.E45.m1.1.1.1.1.4.4.4.1.2" xref="A2.E45.m1.1.1.1.1.4.4.4.1.2.cmml">⁢</mo><mrow id="A2.E45.m1.1.1.1.1.4.4.4.1.4.2" xref="A2.E45.m1.1.1.1.1.4.4.4.1.cmml"><mo id="A2.E45.m1.1.1.1.1.4.4.4.1.4.2.1" stretchy="false" xref="A2.E45.m1.1.1.1.1.4.4.4.1.cmml">(</mo><mi id="A2.E45.m1.1.1.1.1.4.4.4.1.1" xref="A2.E45.m1.1.1.1.1.4.4.4.1.1.cmml">x</mi><mo id="A2.E45.m1.1.1.1.1.4.4.4.1.4.2.2" stretchy="false" xref="A2.E45.m1.1.1.1.1.4.4.4.1.cmml">)</mo></mrow></mrow></mtd></mtr><mtr id="A2.E45.m1.1.1.1.1d" xref="A2.E45.m1.1.1.1.1.cmml"><mtd id="A2.E45.m1.1.1.1.1e" xref="A2.E45.m1.1.1.1.1.cmml"><mrow id="A2.E45.m1.1.1.1.1.5.5.1.1" xref="A2.E45.m1.1.1.1.1.5.5.1.1.cmml"><msub id="A2.E45.m1.1.1.1.1.5.5.1.1.3" xref="A2.E45.m1.1.1.1.1.5.5.1.1.3.cmml"><mi id="A2.E45.m1.1.1.1.1.5.5.1.1.3.2" xref="A2.E45.m1.1.1.1.1.5.5.1.1.3.2.cmml">cov</mi><mi id="A2.E45.m1.1.1.1.1.5.5.1.1.3.3" xref="A2.E45.m1.1.1.1.1.5.5.1.1.3.3.cmml">θ</mi></msub><mo id="A2.E45.m1.1.1.1.1.5.5.1.1.2" xref="A2.E45.m1.1.1.1.1.5.5.1.1.2.cmml">⁢</mo><mrow id="A2.E45.m1.1.1.1.1.5.5.1.1.4.2" xref="A2.E45.m1.1.1.1.1.5.5.1.1.cmml"><mo id="A2.E45.m1.1.1.1.1.5.5.1.1.4.2.1" stretchy="false" xref="A2.E45.m1.1.1.1.1.5.5.1.1.cmml">(</mo><mi id="A2.E45.m1.1.1.1.1.5.5.1.1.1" xref="A2.E45.m1.1.1.1.1.5.5.1.1.1.cmml">x</mi><mo id="A2.E45.m1.1.1.1.1.5.5.1.1.4.2.2" stretchy="false" xref="A2.E45.m1.1.1.1.1.5.5.1.1.cmml">)</mo></mrow></mrow></mtd><mtd id="A2.E45.m1.1.1.1.1f" xref="A2.E45.m1.1.1.1.1.cmml"><mrow id="A2.E45.m1.1.1.1.1.8.8.4.3" xref="A2.E45.m1.1.1.1.1.8.8.4.3.cmml"><msubsup id="A2.E45.m1.1.1.1.1.8.8.4.3.5" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5.cmml"><mi id="A2.E45.m1.1.1.1.1.8.8.4.3.5.2.2" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5.2.2.cmml">σ</mi><mrow id="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.4" xref="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.3.cmml"><mi id="A2.E45.m1.1.1.1.1.6.6.2.1.1.1.1" xref="A2.E45.m1.1.1.1.1.6.6.2.1.1.1.1.cmml">θ</mi><mo id="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.4.1" xref="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.3.cmml">,</mo><mn id="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.2" xref="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.2.cmml">2</mn></mrow><mn id="A2.E45.m1.1.1.1.1.8.8.4.3.5.3" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5.3.cmml">2</mn></msubsup><mo id="A2.E45.m1.1.1.1.1.8.8.4.3.4" xref="A2.E45.m1.1.1.1.1.8.8.4.3.4.cmml">⁢</mo><mrow id="A2.E45.m1.1.1.1.1.8.8.4.3.6.2" xref="A2.E45.m1.1.1.1.1.8.8.4.3.cmml"><mo id="A2.E45.m1.1.1.1.1.8.8.4.3.6.2.1" stretchy="false" xref="A2.E45.m1.1.1.1.1.8.8.4.3.cmml">(</mo><mi id="A2.E45.m1.1.1.1.1.8.8.4.3.3" xref="A2.E45.m1.1.1.1.1.8.8.4.3.3.cmml">x</mi><mo id="A2.E45.m1.1.1.1.1.8.8.4.3.6.2.2" stretchy="false" xref="A2.E45.m1.1.1.1.1.8.8.4.3.cmml">)</mo></mrow></mrow></mtd></mtr></mtable><mo id="A2.E45.m1.1.1.3.2" xref="A2.E45.m1.1.1.2.1.cmml">]</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E45.m1.2b"><apply id="A2.E45.m1.2.3.cmml" xref="A2.E45.m1.2.3"><eq id="A2.E45.m1.2.3.1.cmml" xref="A2.E45.m1.2.3.1"></eq><apply id="A2.E45.m1.2.3.2.cmml" xref="A2.E45.m1.2.3.2"><times id="A2.E45.m1.2.3.2.1.cmml" xref="A2.E45.m1.2.3.2.1"></times><apply id="A2.E45.m1.2.3.2.2.cmml" xref="A2.E45.m1.2.3.2.2"><csymbol cd="ambiguous" id="A2.E45.m1.2.3.2.2.1.cmml" xref="A2.E45.m1.2.3.2.2">subscript</csymbol><ci id="A2.E45.m1.2.3.2.2.2.cmml" xref="A2.E45.m1.2.3.2.2.2">Σ</ci><ci id="A2.E45.m1.2.3.2.2.3.cmml" xref="A2.E45.m1.2.3.2.2.3">𝜃</ci></apply><ci id="A2.E45.m1.2.2.cmml" xref="A2.E45.m1.2.2">𝑥</ci></apply><apply id="A2.E45.m1.1.1.2.cmml" xref="A2.E45.m1.1.1.3"><csymbol cd="latexml" id="A2.E45.m1.1.1.2.1.cmml" xref="A2.E45.m1.1.1.3.1">matrix</csymbol><matrix id="A2.E45.m1.1.1.1.1.cmml" xref="A2.E45.m1.1.1.1.1"><matrixrow id="A2.E45.m1.1.1.1.1a.cmml" xref="A2.E45.m1.1.1.1.1"><apply id="A2.E45.m1.1.1.1.1.3.3.3.3.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3"><times id="A2.E45.m1.1.1.1.1.3.3.3.3.4.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3.4"></times><apply id="A2.E45.m1.1.1.1.1.3.3.3.3.5.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5"><csymbol cd="ambiguous" id="A2.E45.m1.1.1.1.1.3.3.3.3.5.1.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5">superscript</csymbol><apply id="A2.E45.m1.1.1.1.1.3.3.3.3.5.2.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5"><csymbol cd="ambiguous" id="A2.E45.m1.1.1.1.1.3.3.3.3.5.2.1.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5">subscript</csymbol><ci id="A2.E45.m1.1.1.1.1.3.3.3.3.5.2.2.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5.2.2">𝜎</ci><list id="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.3.cmml" xref="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.4"><ci id="A2.E45.m1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E45.m1.1.1.1.1.1.1.1.1.1.1.1">𝜃</ci><cn id="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.2.cmml" type="integer" xref="A2.E45.m1.1.1.1.1.2.2.2.2.2.2.2">1</cn></list></apply><cn id="A2.E45.m1.1.1.1.1.3.3.3.3.5.3.cmml" type="integer" xref="A2.E45.m1.1.1.1.1.3.3.3.3.5.3">2</cn></apply><ci id="A2.E45.m1.1.1.1.1.3.3.3.3.3.cmml" xref="A2.E45.m1.1.1.1.1.3.3.3.3.3">𝑥</ci></apply><apply id="A2.E45.m1.1.1.1.1.4.4.4.1.cmml" xref="A2.E45.m1.1.1.1.1.4.4.4.1"><times id="A2.E45.m1.1.1.1.1.4.4.4.1.2.cmml" xref="A2.E45.m1.1.1.1.1.4.4.4.1.2"></times><apply id="A2.E45.m1.1.1.1.1.4.4.4.1.3.cmml" xref="A2.E45.m1.1.1.1.1.4.4.4.1.3"><csymbol cd="ambiguous" id="A2.E45.m1.1.1.1.1.4.4.4.1.3.1.cmml" xref="A2.E45.m1.1.1.1.1.4.4.4.1.3">subscript</csymbol><ci id="A2.E45.m1.1.1.1.1.4.4.4.1.3.2.cmml" xref="A2.E45.m1.1.1.1.1.4.4.4.1.3.2">cov</ci><ci id="A2.E45.m1.1.1.1.1.4.4.4.1.3.3.cmml" xref="A2.E45.m1.1.1.1.1.4.4.4.1.3.3">𝜃</ci></apply><ci id="A2.E45.m1.1.1.1.1.4.4.4.1.1.cmml" xref="A2.E45.m1.1.1.1.1.4.4.4.1.1">𝑥</ci></apply></matrixrow><matrixrow id="A2.E45.m1.1.1.1.1b.cmml" xref="A2.E45.m1.1.1.1.1"><apply id="A2.E45.m1.1.1.1.1.5.5.1.1.cmml" xref="A2.E45.m1.1.1.1.1.5.5.1.1"><times id="A2.E45.m1.1.1.1.1.5.5.1.1.2.cmml" xref="A2.E45.m1.1.1.1.1.5.5.1.1.2"></times><apply id="A2.E45.m1.1.1.1.1.5.5.1.1.3.cmml" xref="A2.E45.m1.1.1.1.1.5.5.1.1.3"><csymbol cd="ambiguous" id="A2.E45.m1.1.1.1.1.5.5.1.1.3.1.cmml" xref="A2.E45.m1.1.1.1.1.5.5.1.1.3">subscript</csymbol><ci id="A2.E45.m1.1.1.1.1.5.5.1.1.3.2.cmml" xref="A2.E45.m1.1.1.1.1.5.5.1.1.3.2">cov</ci><ci id="A2.E45.m1.1.1.1.1.5.5.1.1.3.3.cmml" xref="A2.E45.m1.1.1.1.1.5.5.1.1.3.3">𝜃</ci></apply><ci id="A2.E45.m1.1.1.1.1.5.5.1.1.1.cmml" xref="A2.E45.m1.1.1.1.1.5.5.1.1.1">𝑥</ci></apply><apply id="A2.E45.m1.1.1.1.1.8.8.4.3.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3"><times id="A2.E45.m1.1.1.1.1.8.8.4.3.4.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3.4"></times><apply id="A2.E45.m1.1.1.1.1.8.8.4.3.5.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5"><csymbol cd="ambiguous" id="A2.E45.m1.1.1.1.1.8.8.4.3.5.1.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5">superscript</csymbol><apply id="A2.E45.m1.1.1.1.1.8.8.4.3.5.2.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5"><csymbol cd="ambiguous" id="A2.E45.m1.1.1.1.1.8.8.4.3.5.2.1.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5">subscript</csymbol><ci id="A2.E45.m1.1.1.1.1.8.8.4.3.5.2.2.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5.2.2">𝜎</ci><list id="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.3.cmml" xref="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.4"><ci id="A2.E45.m1.1.1.1.1.6.6.2.1.1.1.1.cmml" xref="A2.E45.m1.1.1.1.1.6.6.2.1.1.1.1">𝜃</ci><cn id="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.2.cmml" type="integer" xref="A2.E45.m1.1.1.1.1.7.7.3.2.2.2.2">2</cn></list></apply><cn id="A2.E45.m1.1.1.1.1.8.8.4.3.5.3.cmml" type="integer" xref="A2.E45.m1.1.1.1.1.8.8.4.3.5.3">2</cn></apply><ci id="A2.E45.m1.1.1.1.1.8.8.4.3.3.cmml" xref="A2.E45.m1.1.1.1.1.8.8.4.3.3">𝑥</ci></apply></matrixrow></matrix></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E45.m1.2c">\Sigma_{\theta}(x)=\begin{bmatrix}\sigma_{\theta,1}^{2}(x)&\mathrm{cov}_{% \theta}(x)\\ \mathrm{cov}_{\theta}(x)&\sigma_{\theta,2}^{2}(x)\end{bmatrix}</annotation><annotation encoding="application/x-llamapun" id="A2.E45.m1.2d">roman_Σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = [ start_ARG start_ROW start_CELL italic_σ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) end_CELL start_CELL roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) end_CELL end_ROW start_ROW start_CELL roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) end_CELL start_CELL italic_σ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x ) end_CELL end_ROW end_ARG ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(45)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A2.Thmtheorem3.p1.4">Let <math alttext="\vec{Z}" class="ltx_Math" display="inline" id="A2.Thmtheorem3.p1.3.m1.1"><semantics id="A2.Thmtheorem3.p1.3.m1.1a"><mover accent="true" id="A2.Thmtheorem3.p1.3.m1.1.1" xref="A2.Thmtheorem3.p1.3.m1.1.1.cmml"><mi id="A2.Thmtheorem3.p1.3.m1.1.1.2" xref="A2.Thmtheorem3.p1.3.m1.1.1.2.cmml">Z</mi><mo id="A2.Thmtheorem3.p1.3.m1.1.1.1" stretchy="false" xref="A2.Thmtheorem3.p1.3.m1.1.1.1.cmml">→</mo></mover><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem3.p1.3.m1.1b"><apply id="A2.Thmtheorem3.p1.3.m1.1.1.cmml" xref="A2.Thmtheorem3.p1.3.m1.1.1"><ci id="A2.Thmtheorem3.p1.3.m1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.3.m1.1.1.1">→</ci><ci id="A2.Thmtheorem3.p1.3.m1.1.1.2.cmml" xref="A2.Thmtheorem3.p1.3.m1.1.1.2">𝑍</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem3.p1.3.m1.1c">\vec{Z}</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem3.p1.3.m1.1d">over→ start_ARG italic_Z end_ARG</annotation></semantics></math> be a random vector defined as <math alttext="\vec{Z}=\mathbb{E}[[\mu_{\theta,1}-Y_{1},\;\mu_{\theta,2}-Y_{2}]^{\top}|X]" class="ltx_Math" display="inline" id="A2.Thmtheorem3.p1.4.m2.5"><semantics id="A2.Thmtheorem3.p1.4.m2.5a"><mrow id="A2.Thmtheorem3.p1.4.m2.5.5" xref="A2.Thmtheorem3.p1.4.m2.5.5.cmml"><mover accent="true" id="A2.Thmtheorem3.p1.4.m2.5.5.3" xref="A2.Thmtheorem3.p1.4.m2.5.5.3.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.5.5.3.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.3.2.cmml">Z</mi><mo id="A2.Thmtheorem3.p1.4.m2.5.5.3.1" stretchy="false" xref="A2.Thmtheorem3.p1.4.m2.5.5.3.1.cmml">→</mo></mover><mo id="A2.Thmtheorem3.p1.4.m2.5.5.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.2.cmml">=</mo><mrow id="A2.Thmtheorem3.p1.4.m2.5.5.1" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.5.5.1.3" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.3.cmml">𝔼</mi><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.2.cmml">⁢</mo><mrow id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.2.cmml"><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.2" stretchy="false" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.2.1.cmml">[</mo><mrow id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.cmml"><msup id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.cmml"><mrow id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.3.cmml"><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.3" stretchy="false" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.3.cmml">[</mo><mrow id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.cmml"><msub id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2.2.cmml">μ</mi><mrow id="A2.Thmtheorem3.p1.4.m2.2.2.2.4" xref="A2.Thmtheorem3.p1.4.m2.2.2.2.3.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.1.1.1.1" xref="A2.Thmtheorem3.p1.4.m2.1.1.1.1.cmml">θ</mi><mo id="A2.Thmtheorem3.p1.4.m2.2.2.2.4.1" xref="A2.Thmtheorem3.p1.4.m2.2.2.2.3.cmml">,</mo><mn id="A2.Thmtheorem3.p1.4.m2.2.2.2.2" xref="A2.Thmtheorem3.p1.4.m2.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.1" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.1.cmml">−</mo><msub id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.2.cmml">Y</mi><mn id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.3" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.3.cmml">1</mn></msub></mrow><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.4" rspace="0.447em" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.3.cmml">,</mo><mrow id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.cmml"><msub id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2.2.cmml">μ</mi><mrow id="A2.Thmtheorem3.p1.4.m2.4.4.2.4" xref="A2.Thmtheorem3.p1.4.m2.4.4.2.3.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.3.3.1.1" xref="A2.Thmtheorem3.p1.4.m2.3.3.1.1.cmml">θ</mi><mo id="A2.Thmtheorem3.p1.4.m2.4.4.2.4.1" xref="A2.Thmtheorem3.p1.4.m2.4.4.2.3.cmml">,</mo><mn id="A2.Thmtheorem3.p1.4.m2.4.4.2.2" xref="A2.Thmtheorem3.p1.4.m2.4.4.2.2.cmml">2</mn></mrow></msub><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.1" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.1.cmml">−</mo><msub id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.cmml"><mi id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.2" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.2.cmml">Y</mi><mn id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.3" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.3.cmml">2</mn></msub></mrow><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.5" stretchy="false" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.3.cmml">]</mo></mrow><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.4" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.4.cmml">⊤</mo></msup><mo fence="false" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.3" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.3.cmml">|</mo><mi id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.4" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.4.cmml">X</mi></mrow><mo id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.3" stretchy="false" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem3.p1.4.m2.5b"><apply id="A2.Thmtheorem3.p1.4.m2.5.5.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5"><eq id="A2.Thmtheorem3.p1.4.m2.5.5.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.2"></eq><apply id="A2.Thmtheorem3.p1.4.m2.5.5.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.3"><ci id="A2.Thmtheorem3.p1.4.m2.5.5.3.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.3.1">→</ci><ci id="A2.Thmtheorem3.p1.4.m2.5.5.3.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.3.2">𝑍</ci></apply><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1"><times id="A2.Thmtheorem3.p1.4.m2.5.5.1.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.2"></times><ci id="A2.Thmtheorem3.p1.4.m2.5.5.1.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.3">𝔼</ci><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1"><csymbol cd="latexml" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.2.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.2">delimited-[]</csymbol><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1"><csymbol cd="latexml" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.3">conditional</csymbol><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2">superscript</csymbol><interval closure="closed" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2"><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1"><minus id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.1"></minus><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.2.2">𝜇</ci><list id="A2.Thmtheorem3.p1.4.m2.2.2.2.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.2.2.2.4"><ci id="A2.Thmtheorem3.p1.4.m2.1.1.1.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.1.1.1.1">𝜃</ci><cn id="A2.Thmtheorem3.p1.4.m2.2.2.2.2.cmml" type="integer" xref="A2.Thmtheorem3.p1.4.m2.2.2.2.2">1</cn></list></apply><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3">subscript</csymbol><ci id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.2">𝑌</ci><cn id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.1.1.1.1.3.3">1</cn></apply></apply><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2"><minus id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.1"></minus><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2">subscript</csymbol><ci id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.2.2">𝜇</ci><list id="A2.Thmtheorem3.p1.4.m2.4.4.2.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.4.4.2.4"><ci id="A2.Thmtheorem3.p1.4.m2.3.3.1.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.3.3.1.1">𝜃</ci><cn id="A2.Thmtheorem3.p1.4.m2.4.4.2.2.cmml" type="integer" xref="A2.Thmtheorem3.p1.4.m2.4.4.2.2">2</cn></list></apply><apply id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.1.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3">subscript</csymbol><ci id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.2.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.2">𝑌</ci><cn id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.3.cmml" type="integer" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.2.2.2.3.3">2</cn></apply></apply></interval><csymbol cd="latexml" id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.4.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.2.4">top</csymbol></apply><ci id="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.4.cmml" xref="A2.Thmtheorem3.p1.4.m2.5.5.1.1.1.1.4">𝑋</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem3.p1.4.m2.5c">\vec{Z}=\mathbb{E}[[\mu_{\theta,1}-Y_{1},\;\mu_{\theta,2}-Y_{2}]^{\top}|X]</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem3.p1.4.m2.5d">over→ start_ARG italic_Z end_ARG = blackboard_E [ [ italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT - italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT - italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ] start_POSTSUPERSCRIPT ⊤ end_POSTSUPERSCRIPT | italic_X ]</annotation></semantics></math>. The model is said to be covariance calibrated if:</p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx8"> <tbody id="A2.E46"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\vec{\mu_{\theta}}(x)" class="ltx_Math" display="inline" id="A2.E46.m1.1"><semantics id="A2.E46.m1.1a"><mrow id="A2.E46.m1.1.2" xref="A2.E46.m1.1.2.cmml"><mover accent="true" id="A2.E46.m1.1.2.2" xref="A2.E46.m1.1.2.2.cmml"><msub id="A2.E46.m1.1.2.2.2" xref="A2.E46.m1.1.2.2.2.cmml"><mi id="A2.E46.m1.1.2.2.2.2" xref="A2.E46.m1.1.2.2.2.2.cmml">μ</mi><mi id="A2.E46.m1.1.2.2.2.3" xref="A2.E46.m1.1.2.2.2.3.cmml">θ</mi></msub><mo id="A2.E46.m1.1.2.2.1" stretchy="false" xref="A2.E46.m1.1.2.2.1.cmml">→</mo></mover><mo id="A2.E46.m1.1.2.1" xref="A2.E46.m1.1.2.1.cmml">⁢</mo><mrow id="A2.E46.m1.1.2.3.2" xref="A2.E46.m1.1.2.cmml"><mo id="A2.E46.m1.1.2.3.2.1" stretchy="false" xref="A2.E46.m1.1.2.cmml">(</mo><mi id="A2.E46.m1.1.1" xref="A2.E46.m1.1.1.cmml">x</mi><mo id="A2.E46.m1.1.2.3.2.2" stretchy="false" xref="A2.E46.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E46.m1.1b"><apply id="A2.E46.m1.1.2.cmml" xref="A2.E46.m1.1.2"><times id="A2.E46.m1.1.2.1.cmml" xref="A2.E46.m1.1.2.1"></times><apply id="A2.E46.m1.1.2.2.cmml" xref="A2.E46.m1.1.2.2"><ci id="A2.E46.m1.1.2.2.1.cmml" xref="A2.E46.m1.1.2.2.1">→</ci><apply id="A2.E46.m1.1.2.2.2.cmml" xref="A2.E46.m1.1.2.2.2"><csymbol cd="ambiguous" id="A2.E46.m1.1.2.2.2.1.cmml" xref="A2.E46.m1.1.2.2.2">subscript</csymbol><ci id="A2.E46.m1.1.2.2.2.2.cmml" xref="A2.E46.m1.1.2.2.2.2">𝜇</ci><ci id="A2.E46.m1.1.2.2.2.3.cmml" xref="A2.E46.m1.1.2.2.2.3">𝜃</ci></apply></apply><ci id="A2.E46.m1.1.1.cmml" xref="A2.E46.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E46.m1.1c">\displaystyle\vec{\mu_{\theta}}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E46.m1.1d">over→ start_ARG italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT end_ARG ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[[Y_{1},Y_{2}]^{\top}|X]|[x]_{c}]" class="ltx_Math" display="inline" id="A2.E46.m2.2"><semantics id="A2.E46.m2.2a"><mrow id="A2.E46.m2.2.2" xref="A2.E46.m2.2.2.cmml"><mi id="A2.E46.m2.2.2.3" xref="A2.E46.m2.2.2.3.cmml"></mi><mo id="A2.E46.m2.2.2.2" xref="A2.E46.m2.2.2.2.cmml">=</mo><mrow id="A2.E46.m2.2.2.1" xref="A2.E46.m2.2.2.1.cmml"><mi id="A2.E46.m2.2.2.1.3" xref="A2.E46.m2.2.2.1.3.cmml">𝔼</mi><mo id="A2.E46.m2.2.2.1.2" xref="A2.E46.m2.2.2.1.2.cmml">⁢</mo><mrow id="A2.E46.m2.2.2.1.1.1" xref="A2.E46.m2.2.2.1.1.2.cmml"><mo id="A2.E46.m2.2.2.1.1.1.2" stretchy="false" xref="A2.E46.m2.2.2.1.1.2.1.cmml">[</mo><mrow id="A2.E46.m2.2.2.1.1.1.1" xref="A2.E46.m2.2.2.1.1.1.1.cmml"><mrow id="A2.E46.m2.2.2.1.1.1.1.1" xref="A2.E46.m2.2.2.1.1.1.1.1.cmml"><mi id="A2.E46.m2.2.2.1.1.1.1.1.3" xref="A2.E46.m2.2.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E46.m2.2.2.1.1.1.1.1.2" xref="A2.E46.m2.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E46.m2.2.2.1.1.1.1.1.1.1" xref="A2.E46.m2.2.2.1.1.1.1.1.1.2.cmml"><mo id="A2.E46.m2.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E46.m2.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.cmml"><msup id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.cmml"><mrow id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.3.cmml"><mo id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.3" stretchy="false" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.3.cmml">[</mo><msub id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mn id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.4" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.3.cmml">,</mo><msub id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.cmml"><mi id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.2" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.2.cmml">Y</mi><mn id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.3" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.3.cmml">2</mn></msub><mo id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.5" stretchy="false" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.3.cmml">]</mo></mrow><mo id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.4" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.4.cmml">⊤</mo></msup><mo fence="false" id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.3" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.3.cmml">|</mo><mi id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.4" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.4.cmml">X</mi></mrow><mo id="A2.E46.m2.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E46.m2.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E46.m2.2.2.1.1.1.1.2" xref="A2.E46.m2.2.2.1.1.1.1.2.cmml">|</mo><msub id="A2.E46.m2.2.2.1.1.1.1.3" xref="A2.E46.m2.2.2.1.1.1.1.3.cmml"><mrow id="A2.E46.m2.2.2.1.1.1.1.3.2.2" xref="A2.E46.m2.2.2.1.1.1.1.3.2.1.cmml"><mo id="A2.E46.m2.2.2.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E46.m2.2.2.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E46.m2.1.1" xref="A2.E46.m2.1.1.cmml">x</mi><mo id="A2.E46.m2.2.2.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E46.m2.2.2.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E46.m2.2.2.1.1.1.1.3.3" xref="A2.E46.m2.2.2.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E46.m2.2.2.1.1.1.3" stretchy="false" xref="A2.E46.m2.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E46.m2.2b"><apply id="A2.E46.m2.2.2.cmml" xref="A2.E46.m2.2.2"><eq id="A2.E46.m2.2.2.2.cmml" xref="A2.E46.m2.2.2.2"></eq><csymbol cd="latexml" id="A2.E46.m2.2.2.3.cmml" xref="A2.E46.m2.2.2.3">absent</csymbol><apply id="A2.E46.m2.2.2.1.cmml" xref="A2.E46.m2.2.2.1"><times id="A2.E46.m2.2.2.1.2.cmml" xref="A2.E46.m2.2.2.1.2"></times><ci id="A2.E46.m2.2.2.1.3.cmml" xref="A2.E46.m2.2.2.1.3">𝔼</ci><apply id="A2.E46.m2.2.2.1.1.2.cmml" xref="A2.E46.m2.2.2.1.1.1"><csymbol cd="latexml" id="A2.E46.m2.2.2.1.1.2.1.cmml" xref="A2.E46.m2.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A2.E46.m2.2.2.1.1.1.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1"><csymbol cd="latexml" id="A2.E46.m2.2.2.1.1.1.1.2.cmml" xref="A2.E46.m2.2.2.1.1.1.1.2">conditional</csymbol><apply id="A2.E46.m2.2.2.1.1.1.1.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1"><times id="A2.E46.m2.2.2.1.1.1.1.1.2.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.2"></times><ci id="A2.E46.m2.2.2.1.1.1.1.1.3.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.3">𝔼</ci><apply id="A2.E46.m2.2.2.1.1.1.1.1.1.2.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E46.m2.2.2.1.1.1.1.1.1.2.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.3">conditional</csymbol><apply id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.3.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2">superscript</csymbol><interval closure="closed" id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.3.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2"><apply id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.2">𝑌</ci><cn id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.1.1.1.1.3">1</cn></apply><apply id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2"><csymbol cd="ambiguous" id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2">subscript</csymbol><ci id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.2.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.2">𝑌</ci><cn id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.3.cmml" type="integer" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.2.2.2.3">2</cn></apply></interval><csymbol cd="latexml" id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.4.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.2.4">top</csymbol></apply><ci id="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.4.cmml" xref="A2.E46.m2.2.2.1.1.1.1.1.1.1.1.4">𝑋</ci></apply></apply></apply><apply id="A2.E46.m2.2.2.1.1.1.1.3.cmml" xref="A2.E46.m2.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E46.m2.2.2.1.1.1.1.3.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.3">subscript</csymbol><apply id="A2.E46.m2.2.2.1.1.1.1.3.2.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E46.m2.2.2.1.1.1.1.3.2.1.1.cmml" xref="A2.E46.m2.2.2.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E46.m2.1.1.cmml" xref="A2.E46.m2.1.1">𝑥</ci></apply><ci id="A2.E46.m2.2.2.1.1.1.1.3.3.cmml" xref="A2.E46.m2.2.2.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E46.m2.2c">\displaystyle=\mathbb{E}[\mathbb{E}[[Y_{1},Y_{2}]^{\top}|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E46.m2.2d">= blackboard_E [ blackboard_E [ [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ] start_POSTSUPERSCRIPT ⊤ end_POSTSUPERSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(46)</span></td> </tr></tbody> <tbody id="A2.E47"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\Sigma_{\theta}(x)" class="ltx_Math" display="inline" id="A2.E47.m1.1"><semantics id="A2.E47.m1.1a"><mrow id="A2.E47.m1.1.2" xref="A2.E47.m1.1.2.cmml"><msub id="A2.E47.m1.1.2.2" xref="A2.E47.m1.1.2.2.cmml"><mi id="A2.E47.m1.1.2.2.2" mathvariant="normal" xref="A2.E47.m1.1.2.2.2.cmml">Σ</mi><mi id="A2.E47.m1.1.2.2.3" xref="A2.E47.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E47.m1.1.2.1" xref="A2.E47.m1.1.2.1.cmml">⁢</mo><mrow id="A2.E47.m1.1.2.3.2" xref="A2.E47.m1.1.2.cmml"><mo id="A2.E47.m1.1.2.3.2.1" stretchy="false" xref="A2.E47.m1.1.2.cmml">(</mo><mi id="A2.E47.m1.1.1" xref="A2.E47.m1.1.1.cmml">x</mi><mo id="A2.E47.m1.1.2.3.2.2" stretchy="false" xref="A2.E47.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E47.m1.1b"><apply id="A2.E47.m1.1.2.cmml" xref="A2.E47.m1.1.2"><times id="A2.E47.m1.1.2.1.cmml" xref="A2.E47.m1.1.2.1"></times><apply id="A2.E47.m1.1.2.2.cmml" xref="A2.E47.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E47.m1.1.2.2.1.cmml" xref="A2.E47.m1.1.2.2">subscript</csymbol><ci id="A2.E47.m1.1.2.2.2.cmml" xref="A2.E47.m1.1.2.2.2">Σ</ci><ci id="A2.E47.m1.1.2.2.3.cmml" xref="A2.E47.m1.1.2.2.3">𝜃</ci></apply><ci id="A2.E47.m1.1.1.cmml" xref="A2.E47.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E47.m1.1c">\displaystyle\Sigma_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E47.m1.1d">roman_Σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[ZZ^{\top}|[x]_{c}]=\mathbb{E}\left[\mathbb{E}\left[% \left.\begin{bmatrix}(\mu_{\theta,1}(X)-Y_{1})^{2}&(\mu_{\theta,1}(X)-Y_{1})(% \mu_{\theta,2}(X)-Y_{2})\\ (\mu_{\theta,1}(X)-Y_{1})(\mu_{\theta,2}(X)-Y_{2})&(\mu_{\theta,2}(X)-Y_{2})^{% 2}\end{bmatrix}\right|X\right][x]_{c}\right]" class="ltx_Math" display="inline" id="A2.E47.m2.5"><semantics id="A2.E47.m2.5a"><mrow id="A2.E47.m2.5.5" xref="A2.E47.m2.5.5.cmml"><mi id="A2.E47.m2.5.5.4" xref="A2.E47.m2.5.5.4.cmml"></mi><mo id="A2.E47.m2.5.5.5" xref="A2.E47.m2.5.5.5.cmml">=</mo><mrow id="A2.E47.m2.4.4.1" xref="A2.E47.m2.4.4.1.cmml"><mi id="A2.E47.m2.4.4.1.3" xref="A2.E47.m2.4.4.1.3.cmml">𝔼</mi><mo id="A2.E47.m2.4.4.1.2" xref="A2.E47.m2.4.4.1.2.cmml">⁢</mo><mrow id="A2.E47.m2.4.4.1.1.1" xref="A2.E47.m2.4.4.1.1.2.cmml"><mo id="A2.E47.m2.4.4.1.1.1.2" stretchy="false" xref="A2.E47.m2.4.4.1.1.2.1.cmml">[</mo><mrow id="A2.E47.m2.4.4.1.1.1.1" xref="A2.E47.m2.4.4.1.1.1.1.cmml"><mrow id="A2.E47.m2.4.4.1.1.1.1.2" xref="A2.E47.m2.4.4.1.1.1.1.2.cmml"><mi id="A2.E47.m2.4.4.1.1.1.1.2.2" xref="A2.E47.m2.4.4.1.1.1.1.2.2.cmml">Z</mi><mo id="A2.E47.m2.4.4.1.1.1.1.2.1" xref="A2.E47.m2.4.4.1.1.1.1.2.1.cmml">⁢</mo><msup id="A2.E47.m2.4.4.1.1.1.1.2.3" xref="A2.E47.m2.4.4.1.1.1.1.2.3.cmml"><mi id="A2.E47.m2.4.4.1.1.1.1.2.3.2" xref="A2.E47.m2.4.4.1.1.1.1.2.3.2.cmml">Z</mi><mo id="A2.E47.m2.4.4.1.1.1.1.2.3.3" xref="A2.E47.m2.4.4.1.1.1.1.2.3.3.cmml">⊤</mo></msup></mrow><mo fence="false" id="A2.E47.m2.4.4.1.1.1.1.1" xref="A2.E47.m2.4.4.1.1.1.1.1.cmml">|</mo><msub id="A2.E47.m2.4.4.1.1.1.1.3" xref="A2.E47.m2.4.4.1.1.1.1.3.cmml"><mrow id="A2.E47.m2.4.4.1.1.1.1.3.2.2" xref="A2.E47.m2.4.4.1.1.1.1.3.2.1.cmml"><mo id="A2.E47.m2.4.4.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E47.m2.4.4.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E47.m2.2.2" xref="A2.E47.m2.2.2.cmml">x</mi><mo id="A2.E47.m2.4.4.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E47.m2.4.4.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E47.m2.4.4.1.1.1.1.3.3" xref="A2.E47.m2.4.4.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E47.m2.4.4.1.1.1.3" stretchy="false" xref="A2.E47.m2.4.4.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E47.m2.5.5.6" xref="A2.E47.m2.5.5.6.cmml">=</mo><mrow id="A2.E47.m2.5.5.2" xref="A2.E47.m2.5.5.2.cmml"><mi id="A2.E47.m2.5.5.2.3" xref="A2.E47.m2.5.5.2.3.cmml">𝔼</mi><mo id="A2.E47.m2.5.5.2.2" xref="A2.E47.m2.5.5.2.2.cmml">⁢</mo><mrow id="A2.E47.m2.5.5.2.1.1" xref="A2.E47.m2.5.5.2.1.2.cmml"><mo id="A2.E47.m2.5.5.2.1.1.2" xref="A2.E47.m2.5.5.2.1.2.1.cmml">[</mo><mrow id="A2.E47.m2.5.5.2.1.1.1" xref="A2.E47.m2.5.5.2.1.1.1.cmml"><mi id="A2.E47.m2.5.5.2.1.1.1.3" xref="A2.E47.m2.5.5.2.1.1.1.3.cmml">𝔼</mi><mo id="A2.E47.m2.5.5.2.1.1.1.2" xref="A2.E47.m2.5.5.2.1.1.1.2.cmml">⁢</mo><mrow id="A2.E47.m2.5.5.2.1.1.1.1.1" xref="A2.E47.m2.5.5.2.1.1.1.1.2.cmml"><mo id="A2.E47.m2.5.5.2.1.1.1.1.1.2" xref="A2.E47.m2.5.5.2.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E47.m2.5.5.2.1.1.1.1.1.1" xref="A2.E47.m2.5.5.2.1.1.1.1.1.1.cmml"><mrow id="A2.E47.m2.1.1a.3" xref="A2.E47.m2.1.1a.2.cmml"><mo id="A2.E47.m2.1.1a.3.1" xref="A2.E47.m2.1.1a.2.1.cmml">[</mo><mtable columnspacing="5pt" id="A2.E47.m2.1.1.1.1" rowspacing="0pt" xref="A2.E47.m2.1.1.1.1.cmml"><mtr id="A2.E47.m2.1.1.1.1a" xref="A2.E47.m2.1.1.1.1.cmml"><mtd id="A2.E47.m2.1.1.1.1b" xref="A2.E47.m2.1.1.1.1.cmml"><msup id="A2.E47.m2.1.1.1.1.4.4.4.4" xref="A2.E47.m2.1.1.1.1.4.4.4.4.cmml"><mrow id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.cmml"><mo id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.cmml">(</mo><mrow id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.cmml"><msub id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2.cmml"><mi id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2.2" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2.2.cmml">μ</mi><mrow id="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.4" xref="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.3.cmml"><mi id="A2.E47.m2.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E47.m2.1.1.1.1.1.1.1.1.1.1.1.cmml">θ</mi><mo id="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.4.1" xref="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.3.cmml">,</mo><mn id="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.2" xref="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.1" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.1.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.3.2" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.cmml"><mo id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.3.2.1" stretchy="false" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.cmml">(</mo><mi id="A2.E47.m2.1.1.1.1.3.3.3.3.3" xref="A2.E47.m2.1.1.1.1.3.3.3.3.3.cmml">X</mi><mo id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.3.2.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.1" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.1.cmml">−</mo><msub id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.cmml"><mi id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.2" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.2.cmml">Y</mi><mn id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.3" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.3.cmml">1</mn></msub></mrow><mo id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.3" stretchy="false" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.cmml">)</mo></mrow><mn id="A2.E47.m2.1.1.1.1.4.4.4.4.6" xref="A2.E47.m2.1.1.1.1.4.4.4.4.6.cmml">2</mn></msup></mtd><mtd id="A2.E47.m2.1.1.1.1c" xref="A2.E47.m2.1.1.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.12.12.12.8" xref="A2.E47.m2.1.1.1.1.12.12.12.8.cmml"><mrow id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.cmml"><mo id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.cmml">(</mo><mrow id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.cmml"><msub id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2.cmml"><mi id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2.2" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2.2.cmml">μ</mi><mrow id="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.4" xref="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.3.cmml"><mi id="A2.E47.m2.1.1.1.1.5.5.5.1.1.1.1" xref="A2.E47.m2.1.1.1.1.5.5.5.1.1.1.1.cmml">θ</mi><mo id="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.4.1" xref="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.3.cmml">,</mo><mn id="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.2" xref="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.1" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.1.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.3.2" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.cmml"><mo id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.3.2.1" stretchy="false" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.cmml">(</mo><mi id="A2.E47.m2.1.1.1.1.9.9.9.5.5" xref="A2.E47.m2.1.1.1.1.9.9.9.5.5.cmml">X</mi><mo id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.3.2.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.1" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.1.cmml">−</mo><msub id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.cmml"><mi id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.2" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.2.cmml">Y</mi><mn id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.3" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.3.cmml">1</mn></msub></mrow><mo id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.3" stretchy="false" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.cmml">)</mo></mrow><mo id="A2.E47.m2.1.1.1.1.12.12.12.8.9" xref="A2.E47.m2.1.1.1.1.12.12.12.8.9.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.cmml"><mo id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.cmml">(</mo><mrow id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.cmml"><msub id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2.cmml"><mi id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2.2" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2.2.cmml">μ</mi><mrow id="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.4" xref="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.3.cmml"><mi id="A2.E47.m2.1.1.1.1.7.7.7.3.3.1.1" xref="A2.E47.m2.1.1.1.1.7.7.7.3.3.1.1.cmml">θ</mi><mo id="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.4.1" xref="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.3.cmml">,</mo><mn id="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.2" xref="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.2.cmml">2</mn></mrow></msub><mo id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.1" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.1.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.3.2" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.cmml"><mo id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.3.2.1" stretchy="false" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.cmml">(</mo><mi id="A2.E47.m2.1.1.1.1.10.10.10.6.6" xref="A2.E47.m2.1.1.1.1.10.10.10.6.6.cmml">X</mi><mo id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.3.2.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.1" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.1.cmml">−</mo><msub id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.cmml"><mi id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.2" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.2.cmml">Y</mi><mn id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.3" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.3.cmml">2</mn></msub></mrow><mo id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.3" stretchy="false" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.cmml">)</mo></mrow></mrow></mtd></mtr><mtr id="A2.E47.m2.1.1.1.1d" xref="A2.E47.m2.1.1.1.1.cmml"><mtd id="A2.E47.m2.1.1.1.1e" xref="A2.E47.m2.1.1.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.20.20.8.8" xref="A2.E47.m2.1.1.1.1.20.20.8.8.cmml"><mrow id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.cmml"><mo id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.cmml">(</mo><mrow id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.cmml"><msub id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2.cmml"><mi id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2.2" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2.2.cmml">μ</mi><mrow id="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.4" xref="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.3.cmml"><mi id="A2.E47.m2.1.1.1.1.13.13.1.1.1.1.1" xref="A2.E47.m2.1.1.1.1.13.13.1.1.1.1.1.cmml">θ</mi><mo id="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.4.1" xref="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.3.cmml">,</mo><mn id="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.2" xref="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.1" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.1.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.3.2" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.cmml"><mo id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.3.2.1" stretchy="false" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.cmml">(</mo><mi id="A2.E47.m2.1.1.1.1.17.17.5.5.5" xref="A2.E47.m2.1.1.1.1.17.17.5.5.5.cmml">X</mi><mo id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.3.2.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.1" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.1.cmml">−</mo><msub id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.cmml"><mi id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.2" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.2.cmml">Y</mi><mn id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.3" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.3.cmml">1</mn></msub></mrow><mo id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.3" stretchy="false" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.cmml">)</mo></mrow><mo id="A2.E47.m2.1.1.1.1.20.20.8.8.9" xref="A2.E47.m2.1.1.1.1.20.20.8.8.9.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.cmml"><mo id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.cmml">(</mo><mrow id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.cmml"><msub id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2.cmml"><mi id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2.2" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2.2.cmml">μ</mi><mrow id="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.4" xref="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.3.cmml"><mi id="A2.E47.m2.1.1.1.1.15.15.3.3.3.1.1" xref="A2.E47.m2.1.1.1.1.15.15.3.3.3.1.1.cmml">θ</mi><mo id="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.4.1" xref="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.3.cmml">,</mo><mn id="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.2" xref="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.2.cmml">2</mn></mrow></msub><mo id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.1" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.1.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.3.2" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.cmml"><mo id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.3.2.1" stretchy="false" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.cmml">(</mo><mi id="A2.E47.m2.1.1.1.1.18.18.6.6.6" xref="A2.E47.m2.1.1.1.1.18.18.6.6.6.cmml">X</mi><mo id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.3.2.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.1" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.1.cmml">−</mo><msub id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.cmml"><mi id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.2" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.2.cmml">Y</mi><mn id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.3" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.3.cmml">2</mn></msub></mrow><mo id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.3" stretchy="false" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.cmml">)</mo></mrow></mrow></mtd><mtd id="A2.E47.m2.1.1.1.1f" xref="A2.E47.m2.1.1.1.1.cmml"><msup id="A2.E47.m2.1.1.1.1.24.24.12.4" xref="A2.E47.m2.1.1.1.1.24.24.12.4.cmml"><mrow id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.cmml"><mo id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.cmml">(</mo><mrow id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.cmml"><mrow id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.cmml"><msub id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2.cmml"><mi id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2.2" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2.2.cmml">μ</mi><mrow id="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.4" xref="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.3.cmml"><mi id="A2.E47.m2.1.1.1.1.21.21.9.1.1.1.1" xref="A2.E47.m2.1.1.1.1.21.21.9.1.1.1.1.cmml">θ</mi><mo id="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.4.1" xref="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.3.cmml">,</mo><mn id="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.2" xref="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.2.cmml">2</mn></mrow></msub><mo id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.1" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.1.cmml">⁢</mo><mrow id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.3.2" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.cmml"><mo id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.3.2.1" stretchy="false" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.cmml">(</mo><mi id="A2.E47.m2.1.1.1.1.23.23.11.3.3" xref="A2.E47.m2.1.1.1.1.23.23.11.3.3.cmml">X</mi><mo id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.3.2.2" stretchy="false" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.cmml">)</mo></mrow></mrow><mo id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.1" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.1.cmml">−</mo><msub id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.cmml"><mi id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.2" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.2.cmml">Y</mi><mn id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.3" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.3.cmml">2</mn></msub></mrow><mo id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.3" stretchy="false" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.cmml">)</mo></mrow><mn id="A2.E47.m2.1.1.1.1.24.24.12.4.6" xref="A2.E47.m2.1.1.1.1.24.24.12.4.6.cmml">2</mn></msup></mtd></mtr></mtable><mo id="A2.E47.m2.1.1a.3.2" xref="A2.E47.m2.1.1a.2.1.cmml">]</mo></mrow><mo fence="false" id="A2.E47.m2.5.5.2.1.1.1.1.1.1.1" stretchy="true" xref="A2.E47.m2.5.5.2.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E47.m2.5.5.2.1.1.1.1.1.1.2" xref="A2.E47.m2.5.5.2.1.1.1.1.1.1.2.cmml">X</mi></mrow><mo id="A2.E47.m2.5.5.2.1.1.1.1.1.3" xref="A2.E47.m2.5.5.2.1.1.1.1.2.1.cmml">]</mo></mrow><mo id="A2.E47.m2.5.5.2.1.1.1.2a" xref="A2.E47.m2.5.5.2.1.1.1.2.cmml">⁢</mo><msub id="A2.E47.m2.5.5.2.1.1.1.4" xref="A2.E47.m2.5.5.2.1.1.1.4.cmml"><mrow id="A2.E47.m2.5.5.2.1.1.1.4.2.2" xref="A2.E47.m2.5.5.2.1.1.1.4.2.1.cmml"><mo id="A2.E47.m2.5.5.2.1.1.1.4.2.2.1" stretchy="false" xref="A2.E47.m2.5.5.2.1.1.1.4.2.1.1.cmml">[</mo><mi id="A2.E47.m2.3.3" xref="A2.E47.m2.3.3.cmml">x</mi><mo id="A2.E47.m2.5.5.2.1.1.1.4.2.2.2" stretchy="false" xref="A2.E47.m2.5.5.2.1.1.1.4.2.1.1.cmml">]</mo></mrow><mi id="A2.E47.m2.5.5.2.1.1.1.4.3" xref="A2.E47.m2.5.5.2.1.1.1.4.3.cmml">c</mi></msub></mrow><mo id="A2.E47.m2.5.5.2.1.1.3" xref="A2.E47.m2.5.5.2.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E47.m2.5b"><apply id="A2.E47.m2.5.5.cmml" xref="A2.E47.m2.5.5"><and id="A2.E47.m2.5.5a.cmml" xref="A2.E47.m2.5.5"></and><apply id="A2.E47.m2.5.5b.cmml" xref="A2.E47.m2.5.5"><eq id="A2.E47.m2.5.5.5.cmml" xref="A2.E47.m2.5.5.5"></eq><csymbol cd="latexml" id="A2.E47.m2.5.5.4.cmml" xref="A2.E47.m2.5.5.4">absent</csymbol><apply id="A2.E47.m2.4.4.1.cmml" xref="A2.E47.m2.4.4.1"><times id="A2.E47.m2.4.4.1.2.cmml" xref="A2.E47.m2.4.4.1.2"></times><ci id="A2.E47.m2.4.4.1.3.cmml" xref="A2.E47.m2.4.4.1.3">𝔼</ci><apply id="A2.E47.m2.4.4.1.1.2.cmml" xref="A2.E47.m2.4.4.1.1.1"><csymbol cd="latexml" id="A2.E47.m2.4.4.1.1.2.1.cmml" xref="A2.E47.m2.4.4.1.1.1.2">delimited-[]</csymbol><apply id="A2.E47.m2.4.4.1.1.1.1.cmml" xref="A2.E47.m2.4.4.1.1.1.1"><csymbol cd="latexml" id="A2.E47.m2.4.4.1.1.1.1.1.cmml" xref="A2.E47.m2.4.4.1.1.1.1.1">conditional</csymbol><apply id="A2.E47.m2.4.4.1.1.1.1.2.cmml" xref="A2.E47.m2.4.4.1.1.1.1.2"><times id="A2.E47.m2.4.4.1.1.1.1.2.1.cmml" xref="A2.E47.m2.4.4.1.1.1.1.2.1"></times><ci id="A2.E47.m2.4.4.1.1.1.1.2.2.cmml" xref="A2.E47.m2.4.4.1.1.1.1.2.2">𝑍</ci><apply id="A2.E47.m2.4.4.1.1.1.1.2.3.cmml" xref="A2.E47.m2.4.4.1.1.1.1.2.3"><csymbol cd="ambiguous" id="A2.E47.m2.4.4.1.1.1.1.2.3.1.cmml" xref="A2.E47.m2.4.4.1.1.1.1.2.3">superscript</csymbol><ci id="A2.E47.m2.4.4.1.1.1.1.2.3.2.cmml" xref="A2.E47.m2.4.4.1.1.1.1.2.3.2">𝑍</ci><csymbol cd="latexml" id="A2.E47.m2.4.4.1.1.1.1.2.3.3.cmml" xref="A2.E47.m2.4.4.1.1.1.1.2.3.3">top</csymbol></apply></apply><apply id="A2.E47.m2.4.4.1.1.1.1.3.cmml" xref="A2.E47.m2.4.4.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E47.m2.4.4.1.1.1.1.3.1.cmml" xref="A2.E47.m2.4.4.1.1.1.1.3">subscript</csymbol><apply id="A2.E47.m2.4.4.1.1.1.1.3.2.1.cmml" xref="A2.E47.m2.4.4.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E47.m2.4.4.1.1.1.1.3.2.1.1.cmml" xref="A2.E47.m2.4.4.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E47.m2.2.2.cmml" xref="A2.E47.m2.2.2">𝑥</ci></apply><ci id="A2.E47.m2.4.4.1.1.1.1.3.3.cmml" xref="A2.E47.m2.4.4.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply><apply id="A2.E47.m2.5.5c.cmml" xref="A2.E47.m2.5.5"><eq id="A2.E47.m2.5.5.6.cmml" xref="A2.E47.m2.5.5.6"></eq><share href="https://arxiv.org/html/2503.13317v1#A2.E47.m2.4.4.1.cmml" id="A2.E47.m2.5.5d.cmml" xref="A2.E47.m2.5.5"></share><apply id="A2.E47.m2.5.5.2.cmml" xref="A2.E47.m2.5.5.2"><times id="A2.E47.m2.5.5.2.2.cmml" xref="A2.E47.m2.5.5.2.2"></times><ci id="A2.E47.m2.5.5.2.3.cmml" xref="A2.E47.m2.5.5.2.3">𝔼</ci><apply id="A2.E47.m2.5.5.2.1.2.cmml" xref="A2.E47.m2.5.5.2.1.1"><csymbol cd="latexml" id="A2.E47.m2.5.5.2.1.2.1.cmml" xref="A2.E47.m2.5.5.2.1.1.2">delimited-[]</csymbol><apply id="A2.E47.m2.5.5.2.1.1.1.cmml" xref="A2.E47.m2.5.5.2.1.1.1"><times id="A2.E47.m2.5.5.2.1.1.1.2.cmml" xref="A2.E47.m2.5.5.2.1.1.1.2"></times><ci id="A2.E47.m2.5.5.2.1.1.1.3.cmml" xref="A2.E47.m2.5.5.2.1.1.1.3">𝔼</ci><apply id="A2.E47.m2.5.5.2.1.1.1.1.2.cmml" xref="A2.E47.m2.5.5.2.1.1.1.1.1"><csymbol cd="latexml" id="A2.E47.m2.5.5.2.1.1.1.1.2.1.cmml" xref="A2.E47.m2.5.5.2.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E47.m2.5.5.2.1.1.1.1.1.1.cmml" xref="A2.E47.m2.5.5.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E47.m2.5.5.2.1.1.1.1.1.1.1.cmml" xref="A2.E47.m2.5.5.2.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E47.m2.1.1a.2.cmml" xref="A2.E47.m2.1.1a.3"><csymbol cd="latexml" id="A2.E47.m2.1.1a.2.1.cmml" xref="A2.E47.m2.1.1a.3.1">matrix</csymbol><matrix id="A2.E47.m2.1.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1"><matrixrow id="A2.E47.m2.1.1.1.1a.cmml" xref="A2.E47.m2.1.1.1.1"><apply id="A2.E47.m2.1.1.1.1.4.4.4.4.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.4.4.4.4.5.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4">superscript</csymbol><apply id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1"><minus id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.1"></minus><apply id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2"><times id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.1.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.1"></times><apply id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2.1.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2.2.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.2.2.2">𝜇</ci><list id="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.3.cmml" xref="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.4"><ci id="A2.E47.m2.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.1.1.1.1.1.1.1">𝜃</ci><cn id="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.2.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.2.2.2.2.2.2.2">1</cn></list></apply><ci id="A2.E47.m2.1.1.1.1.3.3.3.3.3.cmml" xref="A2.E47.m2.1.1.1.1.3.3.3.3.3">𝑋</ci></apply><apply id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.1.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.2.cmml" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.2">𝑌</ci><cn id="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.3.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.4.4.4.4.4.1.1.3.3">1</cn></apply></apply><cn id="A2.E47.m2.1.1.1.1.4.4.4.4.6.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.4.4.4.4.6">2</cn></apply><apply id="A2.E47.m2.1.1.1.1.12.12.12.8.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8"><times id="A2.E47.m2.1.1.1.1.12.12.12.8.9.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.9"></times><apply id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1"><minus id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.1"></minus><apply id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2"><times id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.1.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.1"></times><apply id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2.1.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2.2.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.2.2.2">𝜇</ci><list id="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.3.cmml" xref="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.4"><ci id="A2.E47.m2.1.1.1.1.5.5.5.1.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.5.5.5.1.1.1.1">𝜃</ci><cn id="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.2.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.6.6.6.2.2.2.2">1</cn></list></apply><ci id="A2.E47.m2.1.1.1.1.9.9.9.5.5.cmml" xref="A2.E47.m2.1.1.1.1.9.9.9.5.5">𝑋</ci></apply><apply id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.1.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.2.cmml" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.2">𝑌</ci><cn id="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.3.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.11.11.11.7.7.1.1.3.3">1</cn></apply></apply><apply id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1"><minus id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.1"></minus><apply id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2"><times id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.1.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.1"></times><apply id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2.1.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2.2.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.2.2.2">𝜇</ci><list id="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.3.cmml" xref="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.4"><ci id="A2.E47.m2.1.1.1.1.7.7.7.3.3.1.1.cmml" xref="A2.E47.m2.1.1.1.1.7.7.7.3.3.1.1">𝜃</ci><cn id="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.2.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.8.8.8.4.4.2.2">2</cn></list></apply><ci id="A2.E47.m2.1.1.1.1.10.10.10.6.6.cmml" xref="A2.E47.m2.1.1.1.1.10.10.10.6.6">𝑋</ci></apply><apply id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.1.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.2.cmml" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.2">𝑌</ci><cn id="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.3.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.12.12.12.8.8.1.1.3.3">2</cn></apply></apply></apply></matrixrow><matrixrow id="A2.E47.m2.1.1.1.1b.cmml" xref="A2.E47.m2.1.1.1.1"><apply id="A2.E47.m2.1.1.1.1.20.20.8.8.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8"><times id="A2.E47.m2.1.1.1.1.20.20.8.8.9.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.9"></times><apply id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1"><minus id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.1"></minus><apply id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2"><times id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.1.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.1"></times><apply id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2.1.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2.2.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.2.2.2">𝜇</ci><list id="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.3.cmml" xref="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.4"><ci id="A2.E47.m2.1.1.1.1.13.13.1.1.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.13.13.1.1.1.1.1">𝜃</ci><cn id="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.2.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.14.14.2.2.2.2.2">1</cn></list></apply><ci id="A2.E47.m2.1.1.1.1.17.17.5.5.5.cmml" xref="A2.E47.m2.1.1.1.1.17.17.5.5.5">𝑋</ci></apply><apply id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.1.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.2.cmml" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.2">𝑌</ci><cn id="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.3.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.19.19.7.7.7.1.1.3.3">1</cn></apply></apply><apply id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1"><minus id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.1"></minus><apply id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2"><times id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.1.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.1"></times><apply id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2.1.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2.2.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.2.2.2">𝜇</ci><list id="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.3.cmml" xref="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.4"><ci id="A2.E47.m2.1.1.1.1.15.15.3.3.3.1.1.cmml" xref="A2.E47.m2.1.1.1.1.15.15.3.3.3.1.1">𝜃</ci><cn id="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.2.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.16.16.4.4.4.2.2">2</cn></list></apply><ci id="A2.E47.m2.1.1.1.1.18.18.6.6.6.cmml" xref="A2.E47.m2.1.1.1.1.18.18.6.6.6">𝑋</ci></apply><apply id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.1.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.2.cmml" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.2">𝑌</ci><cn id="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.3.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.20.20.8.8.8.1.1.3.3">2</cn></apply></apply></apply><apply id="A2.E47.m2.1.1.1.1.24.24.12.4.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.24.24.12.4.5.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4">superscript</csymbol><apply id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1"><minus id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.1"></minus><apply id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2"><times id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.1.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.1"></times><apply id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2.1.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2.2.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.2.2.2">𝜇</ci><list id="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.3.cmml" xref="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.4"><ci id="A2.E47.m2.1.1.1.1.21.21.9.1.1.1.1.cmml" xref="A2.E47.m2.1.1.1.1.21.21.9.1.1.1.1">𝜃</ci><cn id="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.2.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.22.22.10.2.2.2.2">2</cn></list></apply><ci id="A2.E47.m2.1.1.1.1.23.23.11.3.3.cmml" xref="A2.E47.m2.1.1.1.1.23.23.11.3.3">𝑋</ci></apply><apply id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3"><csymbol cd="ambiguous" id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.1.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3">subscript</csymbol><ci id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.2.cmml" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.2">𝑌</ci><cn id="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.3.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.24.24.12.4.4.1.1.3.3">2</cn></apply></apply><cn id="A2.E47.m2.1.1.1.1.24.24.12.4.6.cmml" type="integer" xref="A2.E47.m2.1.1.1.1.24.24.12.4.6">2</cn></apply></matrixrow></matrix></apply><ci id="A2.E47.m2.5.5.2.1.1.1.1.1.1.2.cmml" xref="A2.E47.m2.5.5.2.1.1.1.1.1.1.2">𝑋</ci></apply></apply><apply id="A2.E47.m2.5.5.2.1.1.1.4.cmml" xref="A2.E47.m2.5.5.2.1.1.1.4"><csymbol cd="ambiguous" id="A2.E47.m2.5.5.2.1.1.1.4.1.cmml" xref="A2.E47.m2.5.5.2.1.1.1.4">subscript</csymbol><apply id="A2.E47.m2.5.5.2.1.1.1.4.2.1.cmml" xref="A2.E47.m2.5.5.2.1.1.1.4.2.2"><csymbol cd="latexml" id="A2.E47.m2.5.5.2.1.1.1.4.2.1.1.cmml" xref="A2.E47.m2.5.5.2.1.1.1.4.2.2.1">delimited-[]</csymbol><ci id="A2.E47.m2.3.3.cmml" xref="A2.E47.m2.3.3">𝑥</ci></apply><ci id="A2.E47.m2.5.5.2.1.1.1.4.3.cmml" xref="A2.E47.m2.5.5.2.1.1.1.4.3">𝑐</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E47.m2.5c">\displaystyle=\mathbb{E}[ZZ^{\top}|[x]_{c}]=\mathbb{E}\left[\mathbb{E}\left[% \left.\begin{bmatrix}(\mu_{\theta,1}(X)-Y_{1})^{2}&(\mu_{\theta,1}(X)-Y_{1})(% \mu_{\theta,2}(X)-Y_{2})\\ (\mu_{\theta,1}(X)-Y_{1})(\mu_{\theta,2}(X)-Y_{2})&(\mu_{\theta,2}(X)-Y_{2})^{% 2}\end{bmatrix}\right|X\right][x]_{c}\right]</annotation><annotation encoding="application/x-llamapun" id="A2.E47.m2.5d">= blackboard_E [ italic_Z italic_Z start_POSTSUPERSCRIPT ⊤ end_POSTSUPERSCRIPT | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ] = blackboard_E [ blackboard_E [ [ start_ARG start_ROW start_CELL ( italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT ( italic_X ) - italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT end_CELL start_CELL ( italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT ( italic_X ) - italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ) ( italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT ( italic_X ) - italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ) end_CELL end_ROW start_ROW start_CELL ( italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT ( italic_X ) - italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ) ( italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT ( italic_X ) - italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ) end_CELL start_CELL ( italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT ( italic_X ) - italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT end_CELL end_ROW end_ARG ] | italic_X ] [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(47)</span></td> </tr></tbody> </table> <p class="ltx_p" id="A2.Thmtheorem3.p1.6">where the equivalence class <math alttext="[x]_{c}" class="ltx_Math" display="inline" id="A2.Thmtheorem3.p1.5.m1.1"><semantics id="A2.Thmtheorem3.p1.5.m1.1a"><msub id="A2.Thmtheorem3.p1.5.m1.1.2" xref="A2.Thmtheorem3.p1.5.m1.1.2.cmml"><mrow id="A2.Thmtheorem3.p1.5.m1.1.2.2.2" xref="A2.Thmtheorem3.p1.5.m1.1.2.2.1.cmml"><mo id="A2.Thmtheorem3.p1.5.m1.1.2.2.2.1" stretchy="false" xref="A2.Thmtheorem3.p1.5.m1.1.2.2.1.1.cmml">[</mo><mi id="A2.Thmtheorem3.p1.5.m1.1.1" xref="A2.Thmtheorem3.p1.5.m1.1.1.cmml">x</mi><mo id="A2.Thmtheorem3.p1.5.m1.1.2.2.2.2" stretchy="false" xref="A2.Thmtheorem3.p1.5.m1.1.2.2.1.1.cmml">]</mo></mrow><mi id="A2.Thmtheorem3.p1.5.m1.1.2.3" xref="A2.Thmtheorem3.p1.5.m1.1.2.3.cmml">c</mi></msub><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem3.p1.5.m1.1b"><apply id="A2.Thmtheorem3.p1.5.m1.1.2.cmml" xref="A2.Thmtheorem3.p1.5.m1.1.2"><csymbol cd="ambiguous" id="A2.Thmtheorem3.p1.5.m1.1.2.1.cmml" xref="A2.Thmtheorem3.p1.5.m1.1.2">subscript</csymbol><apply id="A2.Thmtheorem3.p1.5.m1.1.2.2.1.cmml" xref="A2.Thmtheorem3.p1.5.m1.1.2.2.2"><csymbol cd="latexml" id="A2.Thmtheorem3.p1.5.m1.1.2.2.1.1.cmml" xref="A2.Thmtheorem3.p1.5.m1.1.2.2.2.1">delimited-[]</csymbol><ci id="A2.Thmtheorem3.p1.5.m1.1.1.cmml" xref="A2.Thmtheorem3.p1.5.m1.1.1">𝑥</ci></apply><ci id="A2.Thmtheorem3.p1.5.m1.1.2.3.cmml" xref="A2.Thmtheorem3.p1.5.m1.1.2.3">𝑐</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem3.p1.5.m1.1c">[x]_{c}</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem3.p1.5.m1.1d">[ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT</annotation></semantics></math> includes all inputs <math alttext="x" class="ltx_Math" display="inline" id="A2.Thmtheorem3.p1.6.m2.1"><semantics id="A2.Thmtheorem3.p1.6.m2.1a"><mi id="A2.Thmtheorem3.p1.6.m2.1.1" xref="A2.Thmtheorem3.p1.6.m2.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem3.p1.6.m2.1b"><ci id="A2.Thmtheorem3.p1.6.m2.1.1.cmml" xref="A2.Thmtheorem3.p1.6.m2.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem3.p1.6.m2.1c">x</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem3.p1.6.m2.1d">italic_x</annotation></semantics></math> that result in the same mean vector and covariance matrix.</p> </div> </div> <div class="ltx_para" id="A2.p4"> <p class="ltx_p" id="A2.p4.4">The diagonal terms have already been analyzed in Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2.E43" title="Equation 43 ‣ Theorem B.2. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">43</span></a>). Notice that, because of the calibration condition and the fact that <math alttext="Y_{1}|X" class="ltx_Math" display="inline" id="A2.p4.1.m1.1"><semantics id="A2.p4.1.m1.1a"><mrow id="A2.p4.1.m1.1.1" xref="A2.p4.1.m1.1.1.cmml"><msub id="A2.p4.1.m1.1.1.2" xref="A2.p4.1.m1.1.1.2.cmml"><mi id="A2.p4.1.m1.1.1.2.2" xref="A2.p4.1.m1.1.1.2.2.cmml">Y</mi><mn id="A2.p4.1.m1.1.1.2.3" xref="A2.p4.1.m1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A2.p4.1.m1.1.1.1" xref="A2.p4.1.m1.1.1.1.cmml">|</mo><mi id="A2.p4.1.m1.1.1.3" xref="A2.p4.1.m1.1.1.3.cmml">X</mi></mrow><annotation-xml encoding="MathML-Content" id="A2.p4.1.m1.1b"><apply id="A2.p4.1.m1.1.1.cmml" xref="A2.p4.1.m1.1.1"><csymbol cd="latexml" id="A2.p4.1.m1.1.1.1.cmml" xref="A2.p4.1.m1.1.1.1">conditional</csymbol><apply id="A2.p4.1.m1.1.1.2.cmml" xref="A2.p4.1.m1.1.1.2"><csymbol cd="ambiguous" id="A2.p4.1.m1.1.1.2.1.cmml" xref="A2.p4.1.m1.1.1.2">subscript</csymbol><ci id="A2.p4.1.m1.1.1.2.2.cmml" xref="A2.p4.1.m1.1.1.2.2">𝑌</ci><cn id="A2.p4.1.m1.1.1.2.3.cmml" type="integer" xref="A2.p4.1.m1.1.1.2.3">1</cn></apply><ci id="A2.p4.1.m1.1.1.3.cmml" xref="A2.p4.1.m1.1.1.3">𝑋</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p4.1.m1.1c">Y_{1}|X</annotation><annotation encoding="application/x-llamapun" id="A2.p4.1.m1.1d">italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X</annotation></semantics></math> and <math alttext="Y_{2}|X" class="ltx_Math" display="inline" id="A2.p4.2.m2.1"><semantics id="A2.p4.2.m2.1a"><mrow id="A2.p4.2.m2.1.1" xref="A2.p4.2.m2.1.1.cmml"><msub id="A2.p4.2.m2.1.1.2" xref="A2.p4.2.m2.1.1.2.cmml"><mi id="A2.p4.2.m2.1.1.2.2" xref="A2.p4.2.m2.1.1.2.2.cmml">Y</mi><mn id="A2.p4.2.m2.1.1.2.3" xref="A2.p4.2.m2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A2.p4.2.m2.1.1.1" xref="A2.p4.2.m2.1.1.1.cmml">|</mo><mi id="A2.p4.2.m2.1.1.3" xref="A2.p4.2.m2.1.1.3.cmml">X</mi></mrow><annotation-xml encoding="MathML-Content" id="A2.p4.2.m2.1b"><apply id="A2.p4.2.m2.1.1.cmml" xref="A2.p4.2.m2.1.1"><csymbol cd="latexml" id="A2.p4.2.m2.1.1.1.cmml" xref="A2.p4.2.m2.1.1.1">conditional</csymbol><apply id="A2.p4.2.m2.1.1.2.cmml" xref="A2.p4.2.m2.1.1.2"><csymbol cd="ambiguous" id="A2.p4.2.m2.1.1.2.1.cmml" xref="A2.p4.2.m2.1.1.2">subscript</csymbol><ci id="A2.p4.2.m2.1.1.2.2.cmml" xref="A2.p4.2.m2.1.1.2.2">𝑌</ci><cn id="A2.p4.2.m2.1.1.2.3.cmml" type="integer" xref="A2.p4.2.m2.1.1.2.3">2</cn></apply><ci id="A2.p4.2.m2.1.1.3.cmml" xref="A2.p4.2.m2.1.1.3">𝑋</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p4.2.m2.1c">Y_{2}|X</annotation><annotation encoding="application/x-llamapun" id="A2.p4.2.m2.1d">italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X</annotation></semantics></math> are iid, <math alttext="\mu_{\theta,1}=\mu_{\theta,2}=\mu_{\theta}" class="ltx_Math" display="inline" id="A2.p4.3.m3.4"><semantics id="A2.p4.3.m3.4a"><mrow id="A2.p4.3.m3.4.5" xref="A2.p4.3.m3.4.5.cmml"><msub id="A2.p4.3.m3.4.5.2" xref="A2.p4.3.m3.4.5.2.cmml"><mi id="A2.p4.3.m3.4.5.2.2" xref="A2.p4.3.m3.4.5.2.2.cmml">μ</mi><mrow id="A2.p4.3.m3.2.2.2.4" xref="A2.p4.3.m3.2.2.2.3.cmml"><mi id="A2.p4.3.m3.1.1.1.1" xref="A2.p4.3.m3.1.1.1.1.cmml">θ</mi><mo id="A2.p4.3.m3.2.2.2.4.1" xref="A2.p4.3.m3.2.2.2.3.cmml">,</mo><mn id="A2.p4.3.m3.2.2.2.2" xref="A2.p4.3.m3.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A2.p4.3.m3.4.5.3" xref="A2.p4.3.m3.4.5.3.cmml">=</mo><msub id="A2.p4.3.m3.4.5.4" xref="A2.p4.3.m3.4.5.4.cmml"><mi id="A2.p4.3.m3.4.5.4.2" xref="A2.p4.3.m3.4.5.4.2.cmml">μ</mi><mrow id="A2.p4.3.m3.4.4.2.4" xref="A2.p4.3.m3.4.4.2.3.cmml"><mi id="A2.p4.3.m3.3.3.1.1" xref="A2.p4.3.m3.3.3.1.1.cmml">θ</mi><mo id="A2.p4.3.m3.4.4.2.4.1" xref="A2.p4.3.m3.4.4.2.3.cmml">,</mo><mn id="A2.p4.3.m3.4.4.2.2" xref="A2.p4.3.m3.4.4.2.2.cmml">2</mn></mrow></msub><mo id="A2.p4.3.m3.4.5.5" xref="A2.p4.3.m3.4.5.5.cmml">=</mo><msub id="A2.p4.3.m3.4.5.6" xref="A2.p4.3.m3.4.5.6.cmml"><mi id="A2.p4.3.m3.4.5.6.2" xref="A2.p4.3.m3.4.5.6.2.cmml">μ</mi><mi id="A2.p4.3.m3.4.5.6.3" xref="A2.p4.3.m3.4.5.6.3.cmml">θ</mi></msub></mrow><annotation-xml encoding="MathML-Content" id="A2.p4.3.m3.4b"><apply id="A2.p4.3.m3.4.5.cmml" xref="A2.p4.3.m3.4.5"><and id="A2.p4.3.m3.4.5a.cmml" xref="A2.p4.3.m3.4.5"></and><apply id="A2.p4.3.m3.4.5b.cmml" xref="A2.p4.3.m3.4.5"><eq id="A2.p4.3.m3.4.5.3.cmml" xref="A2.p4.3.m3.4.5.3"></eq><apply id="A2.p4.3.m3.4.5.2.cmml" xref="A2.p4.3.m3.4.5.2"><csymbol cd="ambiguous" id="A2.p4.3.m3.4.5.2.1.cmml" xref="A2.p4.3.m3.4.5.2">subscript</csymbol><ci id="A2.p4.3.m3.4.5.2.2.cmml" xref="A2.p4.3.m3.4.5.2.2">𝜇</ci><list id="A2.p4.3.m3.2.2.2.3.cmml" xref="A2.p4.3.m3.2.2.2.4"><ci id="A2.p4.3.m3.1.1.1.1.cmml" xref="A2.p4.3.m3.1.1.1.1">𝜃</ci><cn id="A2.p4.3.m3.2.2.2.2.cmml" type="integer" xref="A2.p4.3.m3.2.2.2.2">1</cn></list></apply><apply id="A2.p4.3.m3.4.5.4.cmml" xref="A2.p4.3.m3.4.5.4"><csymbol cd="ambiguous" id="A2.p4.3.m3.4.5.4.1.cmml" xref="A2.p4.3.m3.4.5.4">subscript</csymbol><ci id="A2.p4.3.m3.4.5.4.2.cmml" xref="A2.p4.3.m3.4.5.4.2">𝜇</ci><list id="A2.p4.3.m3.4.4.2.3.cmml" xref="A2.p4.3.m3.4.4.2.4"><ci id="A2.p4.3.m3.3.3.1.1.cmml" xref="A2.p4.3.m3.3.3.1.1">𝜃</ci><cn id="A2.p4.3.m3.4.4.2.2.cmml" type="integer" xref="A2.p4.3.m3.4.4.2.2">2</cn></list></apply></apply><apply id="A2.p4.3.m3.4.5c.cmml" xref="A2.p4.3.m3.4.5"><eq id="A2.p4.3.m3.4.5.5.cmml" xref="A2.p4.3.m3.4.5.5"></eq><share href="https://arxiv.org/html/2503.13317v1#A2.p4.3.m3.4.5.4.cmml" id="A2.p4.3.m3.4.5d.cmml" xref="A2.p4.3.m3.4.5"></share><apply id="A2.p4.3.m3.4.5.6.cmml" xref="A2.p4.3.m3.4.5.6"><csymbol cd="ambiguous" id="A2.p4.3.m3.4.5.6.1.cmml" xref="A2.p4.3.m3.4.5.6">subscript</csymbol><ci id="A2.p4.3.m3.4.5.6.2.cmml" xref="A2.p4.3.m3.4.5.6.2">𝜇</ci><ci id="A2.p4.3.m3.4.5.6.3.cmml" xref="A2.p4.3.m3.4.5.6.3">𝜃</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p4.3.m3.4c">\mu_{\theta,1}=\mu_{\theta,2}=\mu_{\theta}</annotation><annotation encoding="application/x-llamapun" id="A2.p4.3.m3.4d">italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT = italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT = italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="\sigma^{2}_{\theta,1}=\sigma^{2}_{\theta,2}=\sigma^{2}_{\theta}" class="ltx_Math" display="inline" id="A2.p4.4.m4.4"><semantics id="A2.p4.4.m4.4a"><mrow id="A2.p4.4.m4.4.5" xref="A2.p4.4.m4.4.5.cmml"><msubsup id="A2.p4.4.m4.4.5.2" xref="A2.p4.4.m4.4.5.2.cmml"><mi id="A2.p4.4.m4.4.5.2.2.2" xref="A2.p4.4.m4.4.5.2.2.2.cmml">σ</mi><mrow id="A2.p4.4.m4.2.2.2.4" xref="A2.p4.4.m4.2.2.2.3.cmml"><mi id="A2.p4.4.m4.1.1.1.1" xref="A2.p4.4.m4.1.1.1.1.cmml">θ</mi><mo id="A2.p4.4.m4.2.2.2.4.1" xref="A2.p4.4.m4.2.2.2.3.cmml">,</mo><mn id="A2.p4.4.m4.2.2.2.2" xref="A2.p4.4.m4.2.2.2.2.cmml">1</mn></mrow><mn id="A2.p4.4.m4.4.5.2.2.3" xref="A2.p4.4.m4.4.5.2.2.3.cmml">2</mn></msubsup><mo id="A2.p4.4.m4.4.5.3" xref="A2.p4.4.m4.4.5.3.cmml">=</mo><msubsup id="A2.p4.4.m4.4.5.4" xref="A2.p4.4.m4.4.5.4.cmml"><mi id="A2.p4.4.m4.4.5.4.2.2" xref="A2.p4.4.m4.4.5.4.2.2.cmml">σ</mi><mrow id="A2.p4.4.m4.4.4.2.4" xref="A2.p4.4.m4.4.4.2.3.cmml"><mi id="A2.p4.4.m4.3.3.1.1" xref="A2.p4.4.m4.3.3.1.1.cmml">θ</mi><mo id="A2.p4.4.m4.4.4.2.4.1" xref="A2.p4.4.m4.4.4.2.3.cmml">,</mo><mn id="A2.p4.4.m4.4.4.2.2" xref="A2.p4.4.m4.4.4.2.2.cmml">2</mn></mrow><mn id="A2.p4.4.m4.4.5.4.2.3" xref="A2.p4.4.m4.4.5.4.2.3.cmml">2</mn></msubsup><mo id="A2.p4.4.m4.4.5.5" xref="A2.p4.4.m4.4.5.5.cmml">=</mo><msubsup id="A2.p4.4.m4.4.5.6" xref="A2.p4.4.m4.4.5.6.cmml"><mi id="A2.p4.4.m4.4.5.6.2.2" xref="A2.p4.4.m4.4.5.6.2.2.cmml">σ</mi><mi id="A2.p4.4.m4.4.5.6.3" xref="A2.p4.4.m4.4.5.6.3.cmml">θ</mi><mn id="A2.p4.4.m4.4.5.6.2.3" xref="A2.p4.4.m4.4.5.6.2.3.cmml">2</mn></msubsup></mrow><annotation-xml encoding="MathML-Content" id="A2.p4.4.m4.4b"><apply id="A2.p4.4.m4.4.5.cmml" xref="A2.p4.4.m4.4.5"><and id="A2.p4.4.m4.4.5a.cmml" xref="A2.p4.4.m4.4.5"></and><apply id="A2.p4.4.m4.4.5b.cmml" xref="A2.p4.4.m4.4.5"><eq id="A2.p4.4.m4.4.5.3.cmml" xref="A2.p4.4.m4.4.5.3"></eq><apply id="A2.p4.4.m4.4.5.2.cmml" xref="A2.p4.4.m4.4.5.2"><csymbol cd="ambiguous" id="A2.p4.4.m4.4.5.2.1.cmml" xref="A2.p4.4.m4.4.5.2">subscript</csymbol><apply id="A2.p4.4.m4.4.5.2.2.cmml" xref="A2.p4.4.m4.4.5.2"><csymbol cd="ambiguous" id="A2.p4.4.m4.4.5.2.2.1.cmml" xref="A2.p4.4.m4.4.5.2">superscript</csymbol><ci id="A2.p4.4.m4.4.5.2.2.2.cmml" xref="A2.p4.4.m4.4.5.2.2.2">𝜎</ci><cn id="A2.p4.4.m4.4.5.2.2.3.cmml" type="integer" xref="A2.p4.4.m4.4.5.2.2.3">2</cn></apply><list id="A2.p4.4.m4.2.2.2.3.cmml" xref="A2.p4.4.m4.2.2.2.4"><ci id="A2.p4.4.m4.1.1.1.1.cmml" xref="A2.p4.4.m4.1.1.1.1">𝜃</ci><cn id="A2.p4.4.m4.2.2.2.2.cmml" type="integer" xref="A2.p4.4.m4.2.2.2.2">1</cn></list></apply><apply id="A2.p4.4.m4.4.5.4.cmml" xref="A2.p4.4.m4.4.5.4"><csymbol cd="ambiguous" id="A2.p4.4.m4.4.5.4.1.cmml" xref="A2.p4.4.m4.4.5.4">subscript</csymbol><apply id="A2.p4.4.m4.4.5.4.2.cmml" xref="A2.p4.4.m4.4.5.4"><csymbol cd="ambiguous" id="A2.p4.4.m4.4.5.4.2.1.cmml" xref="A2.p4.4.m4.4.5.4">superscript</csymbol><ci id="A2.p4.4.m4.4.5.4.2.2.cmml" xref="A2.p4.4.m4.4.5.4.2.2">𝜎</ci><cn id="A2.p4.4.m4.4.5.4.2.3.cmml" type="integer" xref="A2.p4.4.m4.4.5.4.2.3">2</cn></apply><list id="A2.p4.4.m4.4.4.2.3.cmml" xref="A2.p4.4.m4.4.4.2.4"><ci id="A2.p4.4.m4.3.3.1.1.cmml" xref="A2.p4.4.m4.3.3.1.1">𝜃</ci><cn id="A2.p4.4.m4.4.4.2.2.cmml" type="integer" xref="A2.p4.4.m4.4.4.2.2">2</cn></list></apply></apply><apply id="A2.p4.4.m4.4.5c.cmml" xref="A2.p4.4.m4.4.5"><eq id="A2.p4.4.m4.4.5.5.cmml" xref="A2.p4.4.m4.4.5.5"></eq><share href="https://arxiv.org/html/2503.13317v1#A2.p4.4.m4.4.5.4.cmml" id="A2.p4.4.m4.4.5d.cmml" xref="A2.p4.4.m4.4.5"></share><apply id="A2.p4.4.m4.4.5.6.cmml" xref="A2.p4.4.m4.4.5.6"><csymbol cd="ambiguous" id="A2.p4.4.m4.4.5.6.1.cmml" xref="A2.p4.4.m4.4.5.6">subscript</csymbol><apply id="A2.p4.4.m4.4.5.6.2.cmml" xref="A2.p4.4.m4.4.5.6"><csymbol cd="ambiguous" id="A2.p4.4.m4.4.5.6.2.1.cmml" xref="A2.p4.4.m4.4.5.6">superscript</csymbol><ci id="A2.p4.4.m4.4.5.6.2.2.cmml" xref="A2.p4.4.m4.4.5.6.2.2">𝜎</ci><cn id="A2.p4.4.m4.4.5.6.2.3.cmml" type="integer" xref="A2.p4.4.m4.4.5.6.2.3">2</cn></apply><ci id="A2.p4.4.m4.4.5.6.3.cmml" xref="A2.p4.4.m4.4.5.6.3">𝜃</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p4.4.m4.4c">\sigma^{2}_{\theta,1}=\sigma^{2}_{\theta,2}=\sigma^{2}_{\theta}</annotation><annotation encoding="application/x-llamapun" id="A2.p4.4.m4.4d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT = italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT = italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math>:</p> </div> <div class="ltx_theorem ltx_theorem_lemma" id="A2.Thmtheorem4"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem4.1.1.1">Lemma B.4</span></span><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem4.2.2">.</span> </h6> <div class="ltx_para" id="A2.Thmtheorem4.p1"> <p class="ltx_p" id="A2.Thmtheorem4.p1.3"><span class="ltx_text ltx_font_italic" id="A2.Thmtheorem4.p1.3.3">Let <math alttext="p(Y_{1},Y_{2}|X)" class="ltx_Math" display="inline" id="A2.Thmtheorem4.p1.1.1.m1.2"><semantics id="A2.Thmtheorem4.p1.1.1.m1.2a"><mrow id="A2.Thmtheorem4.p1.1.1.m1.2.2" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.cmml"><mi id="A2.Thmtheorem4.p1.1.1.m1.2.2.4" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.4.cmml">p</mi><mo id="A2.Thmtheorem4.p1.1.1.m1.2.2.3" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.3.cmml">⁢</mo><mrow id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml"><mo id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.3" stretchy="false" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml">(</mo><msub id="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1" xref="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml"><mi id="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2" xref="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2.cmml">Y</mi><mn id="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3" xref="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.4" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml">,</mo><mrow id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.cmml"><msub id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.cmml"><mi id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2.cmml">Y</mi><mn id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1.cmml">|</mo><mi id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3.cmml">X</mi></mrow><mo id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.5" stretchy="false" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem4.p1.1.1.m1.2b"><apply id="A2.Thmtheorem4.p1.1.1.m1.2.2.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2"><times id="A2.Thmtheorem4.p1.1.1.m1.2.2.3.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.3"></times><ci id="A2.Thmtheorem4.p1.1.1.m1.2.2.4.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.4">𝑝</ci><interval closure="open" id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.3.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2"><apply id="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1"><csymbol cd="ambiguous" id="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1">subscript</csymbol><ci id="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.2">𝑌</ci><cn id="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3.cmml" type="integer" xref="A2.Thmtheorem4.p1.1.1.m1.1.1.1.1.1.3">1</cn></apply><apply id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2"><csymbol cd="latexml" id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.1">conditional</csymbol><apply id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2">subscript</csymbol><ci id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.2">𝑌</ci><cn id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3.cmml" type="integer" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.2.3">2</cn></apply><ci id="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3.cmml" xref="A2.Thmtheorem4.p1.1.1.m1.2.2.2.2.2.3">𝑋</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem4.p1.1.1.m1.2c">p(Y_{1},Y_{2}|X)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem4.p1.1.1.m1.2d">italic_p ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X )</annotation></semantics></math> be a model calibrated in the sense of Def. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2.Thmtheorem3" title="Definition B.3. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">B.3</span></a>. If the data distribution <math alttext="p(Y_{1},Y_{2}|X)" class="ltx_Math" display="inline" id="A2.Thmtheorem4.p1.2.2.m2.2"><semantics id="A2.Thmtheorem4.p1.2.2.m2.2a"><mrow id="A2.Thmtheorem4.p1.2.2.m2.2.2" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.cmml"><mi id="A2.Thmtheorem4.p1.2.2.m2.2.2.4" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.4.cmml">p</mi><mo id="A2.Thmtheorem4.p1.2.2.m2.2.2.3" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.3.cmml">⁢</mo><mrow id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.3.cmml"><mo id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.3" stretchy="false" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.3.cmml">(</mo><msub id="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1" xref="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.cmml"><mi id="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2" xref="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.cmml">Y</mi><mn id="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3" xref="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3.cmml">1</mn></msub><mo id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.4" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.3.cmml">,</mo><mrow id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.cmml"><msub id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.cmml"><mi id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.2" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.2.cmml">Y</mi><mn id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.3" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.1" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.1.cmml">|</mo><mi id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.3" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.3.cmml">X</mi></mrow><mo id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.5" stretchy="false" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.3.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem4.p1.2.2.m2.2b"><apply id="A2.Thmtheorem4.p1.2.2.m2.2.2.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2"><times id="A2.Thmtheorem4.p1.2.2.m2.2.2.3.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.3"></times><ci id="A2.Thmtheorem4.p1.2.2.m2.2.2.4.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.4">𝑝</ci><interval closure="open" id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.3.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2"><apply id="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1"><csymbol cd="ambiguous" id="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1">subscript</csymbol><ci id="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.2">𝑌</ci><cn id="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3.cmml" type="integer" xref="A2.Thmtheorem4.p1.2.2.m2.1.1.1.1.1.3">1</cn></apply><apply id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2"><csymbol cd="latexml" id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.1">conditional</csymbol><apply id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.1.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2">subscript</csymbol><ci id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.2.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.2">𝑌</ci><cn id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.3.cmml" type="integer" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.2.3">2</cn></apply><ci id="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.3.cmml" xref="A2.Thmtheorem4.p1.2.2.m2.2.2.2.2.2.3">𝑋</ci></apply></interval></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem4.p1.2.2.m2.2c">p(Y_{1},Y_{2}|X)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem4.p1.2.2.m2.2d">italic_p ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X )</annotation></semantics></math> can be decomposed as <math alttext="p(Y_{1}|X)p(Y_{2}|X)" class="ltx_Math" display="inline" id="A2.Thmtheorem4.p1.3.3.m3.2"><semantics id="A2.Thmtheorem4.p1.3.3.m3.2a"><mrow id="A2.Thmtheorem4.p1.3.3.m3.2.2" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.cmml"><mi id="A2.Thmtheorem4.p1.3.3.m3.2.2.4" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.4.cmml">p</mi><mo id="A2.Thmtheorem4.p1.3.3.m3.2.2.3" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.3.cmml">⁢</mo><mrow id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml"><mo id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.2" stretchy="false" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml">(</mo><mrow id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml"><msub id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.cmml"><mi id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1.cmml">|</mo><mi id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.3" stretchy="false" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml">)</mo></mrow><mo id="A2.Thmtheorem4.p1.3.3.m3.2.2.3a" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.3.cmml">⁢</mo><mi id="A2.Thmtheorem4.p1.3.3.m3.2.2.5" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.5.cmml">p</mi><mo id="A2.Thmtheorem4.p1.3.3.m3.2.2.3b" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.3.cmml">⁢</mo><mrow id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.cmml"><mo id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.2" stretchy="false" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.cmml">(</mo><mrow id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.cmml"><msub id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.cmml"><mi id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.2" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.2.cmml">Y</mi><mn id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.3" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.1" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.1.cmml">|</mo><mi id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.3" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.3.cmml">X</mi></mrow><mo id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.3" stretchy="false" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem4.p1.3.3.m3.2b"><apply id="A2.Thmtheorem4.p1.3.3.m3.2.2.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2"><times id="A2.Thmtheorem4.p1.3.3.m3.2.2.3.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.3"></times><ci id="A2.Thmtheorem4.p1.3.3.m3.2.2.4.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.4">𝑝</ci><apply id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1"><csymbol cd="latexml" id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.1">conditional</csymbol><apply id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.1.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2">subscript</csymbol><ci id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.2.3">1</cn></apply><ci id="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.1.1.1.1.1.3">𝑋</ci></apply><ci id="A2.Thmtheorem4.p1.3.3.m3.2.2.5.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.5">𝑝</ci><apply id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1"><csymbol cd="latexml" id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.1.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.1">conditional</csymbol><apply id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2"><csymbol cd="ambiguous" id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.1.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2">subscript</csymbol><ci id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.2.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.2">𝑌</ci><cn id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.3.cmml" type="integer" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.2.3">2</cn></apply><ci id="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.3.cmml" xref="A2.Thmtheorem4.p1.3.3.m3.2.2.2.1.1.3">𝑋</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem4.p1.3.3.m3.2c">p(Y_{1}|X)p(Y_{2}|X)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem4.p1.3.3.m3.2d">italic_p ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ) italic_p ( italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X )</annotation></semantics></math>, then:</span></p> <table class="ltx_equationgroup ltx_eqn_align ltx_eqn_table" id="A4.EGx9"> <tbody id="A2.E48"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mu_{\theta,1}(x)=\mu_{\theta,2}(x)" class="ltx_Math" display="inline" id="A2.E48.m1.6"><semantics id="A2.E48.m1.6a"><mrow id="A2.E48.m1.6.7" xref="A2.E48.m1.6.7.cmml"><mrow id="A2.E48.m1.6.7.2" xref="A2.E48.m1.6.7.2.cmml"><msub id="A2.E48.m1.6.7.2.2" xref="A2.E48.m1.6.7.2.2.cmml"><mi id="A2.E48.m1.6.7.2.2.2" xref="A2.E48.m1.6.7.2.2.2.cmml">μ</mi><mrow id="A2.E48.m1.2.2.2.4" xref="A2.E48.m1.2.2.2.3.cmml"><mi id="A2.E48.m1.1.1.1.1" xref="A2.E48.m1.1.1.1.1.cmml">θ</mi><mo id="A2.E48.m1.2.2.2.4.1" xref="A2.E48.m1.2.2.2.3.cmml">,</mo><mn id="A2.E48.m1.2.2.2.2" xref="A2.E48.m1.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A2.E48.m1.6.7.2.1" xref="A2.E48.m1.6.7.2.1.cmml">⁢</mo><mrow id="A2.E48.m1.6.7.2.3.2" xref="A2.E48.m1.6.7.2.cmml"><mo id="A2.E48.m1.6.7.2.3.2.1" stretchy="false" xref="A2.E48.m1.6.7.2.cmml">(</mo><mi id="A2.E48.m1.5.5" xref="A2.E48.m1.5.5.cmml">x</mi><mo id="A2.E48.m1.6.7.2.3.2.2" stretchy="false" xref="A2.E48.m1.6.7.2.cmml">)</mo></mrow></mrow><mo id="A2.E48.m1.6.7.1" xref="A2.E48.m1.6.7.1.cmml">=</mo><mrow id="A2.E48.m1.6.7.3" xref="A2.E48.m1.6.7.3.cmml"><msub id="A2.E48.m1.6.7.3.2" xref="A2.E48.m1.6.7.3.2.cmml"><mi id="A2.E48.m1.6.7.3.2.2" xref="A2.E48.m1.6.7.3.2.2.cmml">μ</mi><mrow id="A2.E48.m1.4.4.2.4" xref="A2.E48.m1.4.4.2.3.cmml"><mi id="A2.E48.m1.3.3.1.1" xref="A2.E48.m1.3.3.1.1.cmml">θ</mi><mo id="A2.E48.m1.4.4.2.4.1" xref="A2.E48.m1.4.4.2.3.cmml">,</mo><mn id="A2.E48.m1.4.4.2.2" xref="A2.E48.m1.4.4.2.2.cmml">2</mn></mrow></msub><mo id="A2.E48.m1.6.7.3.1" xref="A2.E48.m1.6.7.3.1.cmml">⁢</mo><mrow id="A2.E48.m1.6.7.3.3.2" xref="A2.E48.m1.6.7.3.cmml"><mo id="A2.E48.m1.6.7.3.3.2.1" stretchy="false" xref="A2.E48.m1.6.7.3.cmml">(</mo><mi id="A2.E48.m1.6.6" xref="A2.E48.m1.6.6.cmml">x</mi><mo id="A2.E48.m1.6.7.3.3.2.2" stretchy="false" xref="A2.E48.m1.6.7.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E48.m1.6b"><apply id="A2.E48.m1.6.7.cmml" xref="A2.E48.m1.6.7"><eq id="A2.E48.m1.6.7.1.cmml" xref="A2.E48.m1.6.7.1"></eq><apply id="A2.E48.m1.6.7.2.cmml" xref="A2.E48.m1.6.7.2"><times id="A2.E48.m1.6.7.2.1.cmml" xref="A2.E48.m1.6.7.2.1"></times><apply id="A2.E48.m1.6.7.2.2.cmml" xref="A2.E48.m1.6.7.2.2"><csymbol cd="ambiguous" id="A2.E48.m1.6.7.2.2.1.cmml" xref="A2.E48.m1.6.7.2.2">subscript</csymbol><ci id="A2.E48.m1.6.7.2.2.2.cmml" xref="A2.E48.m1.6.7.2.2.2">𝜇</ci><list id="A2.E48.m1.2.2.2.3.cmml" xref="A2.E48.m1.2.2.2.4"><ci id="A2.E48.m1.1.1.1.1.cmml" xref="A2.E48.m1.1.1.1.1">𝜃</ci><cn id="A2.E48.m1.2.2.2.2.cmml" type="integer" xref="A2.E48.m1.2.2.2.2">1</cn></list></apply><ci id="A2.E48.m1.5.5.cmml" xref="A2.E48.m1.5.5">𝑥</ci></apply><apply id="A2.E48.m1.6.7.3.cmml" xref="A2.E48.m1.6.7.3"><times id="A2.E48.m1.6.7.3.1.cmml" xref="A2.E48.m1.6.7.3.1"></times><apply id="A2.E48.m1.6.7.3.2.cmml" xref="A2.E48.m1.6.7.3.2"><csymbol cd="ambiguous" id="A2.E48.m1.6.7.3.2.1.cmml" xref="A2.E48.m1.6.7.3.2">subscript</csymbol><ci id="A2.E48.m1.6.7.3.2.2.cmml" xref="A2.E48.m1.6.7.3.2.2">𝜇</ci><list id="A2.E48.m1.4.4.2.3.cmml" xref="A2.E48.m1.4.4.2.4"><ci id="A2.E48.m1.3.3.1.1.cmml" xref="A2.E48.m1.3.3.1.1">𝜃</ci><cn id="A2.E48.m1.4.4.2.2.cmml" type="integer" xref="A2.E48.m1.4.4.2.2">2</cn></list></apply><ci id="A2.E48.m1.6.6.cmml" xref="A2.E48.m1.6.6">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E48.m1.6c">\displaystyle\mu_{\theta,1}(x)=\mu_{\theta,2}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E48.m1.6d">italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT ( italic_x ) = italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}|X]|[x]_{c}]" class="ltx_Math" display="inline" id="A2.E48.m2.2"><semantics id="A2.E48.m2.2a"><mrow id="A2.E48.m2.2.2" xref="A2.E48.m2.2.2.cmml"><mi id="A2.E48.m2.2.2.3" xref="A2.E48.m2.2.2.3.cmml"></mi><mo id="A2.E48.m2.2.2.2" xref="A2.E48.m2.2.2.2.cmml">=</mo><mrow id="A2.E48.m2.2.2.1" xref="A2.E48.m2.2.2.1.cmml"><mi id="A2.E48.m2.2.2.1.3" xref="A2.E48.m2.2.2.1.3.cmml">𝔼</mi><mo id="A2.E48.m2.2.2.1.2" xref="A2.E48.m2.2.2.1.2.cmml">⁢</mo><mrow id="A2.E48.m2.2.2.1.1.1" xref="A2.E48.m2.2.2.1.1.2.cmml"><mo id="A2.E48.m2.2.2.1.1.1.2" stretchy="false" xref="A2.E48.m2.2.2.1.1.2.1.cmml">[</mo><mrow id="A2.E48.m2.2.2.1.1.1.1" xref="A2.E48.m2.2.2.1.1.1.1.cmml"><mrow id="A2.E48.m2.2.2.1.1.1.1.1" xref="A2.E48.m2.2.2.1.1.1.1.1.cmml"><mi id="A2.E48.m2.2.2.1.1.1.1.1.3" xref="A2.E48.m2.2.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E48.m2.2.2.1.1.1.1.1.2" xref="A2.E48.m2.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E48.m2.2.2.1.1.1.1.1.1.1" xref="A2.E48.m2.2.2.1.1.1.1.1.1.2.cmml"><mo id="A2.E48.m2.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E48.m2.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.cmml"><msub id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.2" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.3" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.1" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.3" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E48.m2.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E48.m2.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E48.m2.2.2.1.1.1.1.2" xref="A2.E48.m2.2.2.1.1.1.1.2.cmml">|</mo><msub id="A2.E48.m2.2.2.1.1.1.1.3" xref="A2.E48.m2.2.2.1.1.1.1.3.cmml"><mrow id="A2.E48.m2.2.2.1.1.1.1.3.2.2" xref="A2.E48.m2.2.2.1.1.1.1.3.2.1.cmml"><mo id="A2.E48.m2.2.2.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E48.m2.2.2.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E48.m2.1.1" xref="A2.E48.m2.1.1.cmml">x</mi><mo id="A2.E48.m2.2.2.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E48.m2.2.2.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E48.m2.2.2.1.1.1.1.3.3" xref="A2.E48.m2.2.2.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E48.m2.2.2.1.1.1.3" stretchy="false" xref="A2.E48.m2.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E48.m2.2b"><apply id="A2.E48.m2.2.2.cmml" xref="A2.E48.m2.2.2"><eq id="A2.E48.m2.2.2.2.cmml" xref="A2.E48.m2.2.2.2"></eq><csymbol cd="latexml" id="A2.E48.m2.2.2.3.cmml" xref="A2.E48.m2.2.2.3">absent</csymbol><apply id="A2.E48.m2.2.2.1.cmml" xref="A2.E48.m2.2.2.1"><times id="A2.E48.m2.2.2.1.2.cmml" xref="A2.E48.m2.2.2.1.2"></times><ci id="A2.E48.m2.2.2.1.3.cmml" xref="A2.E48.m2.2.2.1.3">𝔼</ci><apply id="A2.E48.m2.2.2.1.1.2.cmml" xref="A2.E48.m2.2.2.1.1.1"><csymbol cd="latexml" id="A2.E48.m2.2.2.1.1.2.1.cmml" xref="A2.E48.m2.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A2.E48.m2.2.2.1.1.1.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1"><csymbol cd="latexml" id="A2.E48.m2.2.2.1.1.1.1.2.cmml" xref="A2.E48.m2.2.2.1.1.1.1.2">conditional</csymbol><apply id="A2.E48.m2.2.2.1.1.1.1.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1"><times id="A2.E48.m2.2.2.1.1.1.1.1.2.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.2"></times><ci id="A2.E48.m2.2.2.1.1.1.1.1.3.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.3">𝔼</ci><apply id="A2.E48.m2.2.2.1.1.1.1.1.1.2.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E48.m2.2.2.1.1.1.1.1.1.2.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E48.m2.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E48.m2.2.2.1.1.1.1.3.cmml" xref="A2.E48.m2.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E48.m2.2.2.1.1.1.1.3.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.3">subscript</csymbol><apply id="A2.E48.m2.2.2.1.1.1.1.3.2.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E48.m2.2.2.1.1.1.1.3.2.1.1.cmml" xref="A2.E48.m2.2.2.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E48.m2.1.1.cmml" xref="A2.E48.m2.1.1">𝑥</ci></apply><ci id="A2.E48.m2.2.2.1.1.1.1.3.3.cmml" xref="A2.E48.m2.2.2.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E48.m2.2c">\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E48.m2.2d">= blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(48)</span></td> </tr></tbody> <tbody id="A2.E49"><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\sigma^{2}_{\theta,1}(x)=\sigma^{2}_{\theta,1}(x)" class="ltx_Math" display="inline" id="A2.E49.m1.6"><semantics id="A2.E49.m1.6a"><mrow id="A2.E49.m1.6.7" xref="A2.E49.m1.6.7.cmml"><mrow id="A2.E49.m1.6.7.2" xref="A2.E49.m1.6.7.2.cmml"><msubsup id="A2.E49.m1.6.7.2.2" xref="A2.E49.m1.6.7.2.2.cmml"><mi id="A2.E49.m1.6.7.2.2.2.2" xref="A2.E49.m1.6.7.2.2.2.2.cmml">σ</mi><mrow id="A2.E49.m1.2.2.2.4" xref="A2.E49.m1.2.2.2.3.cmml"><mi id="A2.E49.m1.1.1.1.1" xref="A2.E49.m1.1.1.1.1.cmml">θ</mi><mo id="A2.E49.m1.2.2.2.4.1" xref="A2.E49.m1.2.2.2.3.cmml">,</mo><mn id="A2.E49.m1.2.2.2.2" xref="A2.E49.m1.2.2.2.2.cmml">1</mn></mrow><mn id="A2.E49.m1.6.7.2.2.2.3" xref="A2.E49.m1.6.7.2.2.2.3.cmml">2</mn></msubsup><mo id="A2.E49.m1.6.7.2.1" xref="A2.E49.m1.6.7.2.1.cmml">⁢</mo><mrow id="A2.E49.m1.6.7.2.3.2" xref="A2.E49.m1.6.7.2.cmml"><mo id="A2.E49.m1.6.7.2.3.2.1" stretchy="false" xref="A2.E49.m1.6.7.2.cmml">(</mo><mi id="A2.E49.m1.5.5" xref="A2.E49.m1.5.5.cmml">x</mi><mo id="A2.E49.m1.6.7.2.3.2.2" stretchy="false" xref="A2.E49.m1.6.7.2.cmml">)</mo></mrow></mrow><mo id="A2.E49.m1.6.7.1" xref="A2.E49.m1.6.7.1.cmml">=</mo><mrow id="A2.E49.m1.6.7.3" xref="A2.E49.m1.6.7.3.cmml"><msubsup id="A2.E49.m1.6.7.3.2" xref="A2.E49.m1.6.7.3.2.cmml"><mi id="A2.E49.m1.6.7.3.2.2.2" xref="A2.E49.m1.6.7.3.2.2.2.cmml">σ</mi><mrow id="A2.E49.m1.4.4.2.4" xref="A2.E49.m1.4.4.2.3.cmml"><mi id="A2.E49.m1.3.3.1.1" xref="A2.E49.m1.3.3.1.1.cmml">θ</mi><mo id="A2.E49.m1.4.4.2.4.1" xref="A2.E49.m1.4.4.2.3.cmml">,</mo><mn id="A2.E49.m1.4.4.2.2" xref="A2.E49.m1.4.4.2.2.cmml">1</mn></mrow><mn id="A2.E49.m1.6.7.3.2.2.3" xref="A2.E49.m1.6.7.3.2.2.3.cmml">2</mn></msubsup><mo id="A2.E49.m1.6.7.3.1" xref="A2.E49.m1.6.7.3.1.cmml">⁢</mo><mrow id="A2.E49.m1.6.7.3.3.2" xref="A2.E49.m1.6.7.3.cmml"><mo id="A2.E49.m1.6.7.3.3.2.1" stretchy="false" xref="A2.E49.m1.6.7.3.cmml">(</mo><mi id="A2.E49.m1.6.6" xref="A2.E49.m1.6.6.cmml">x</mi><mo id="A2.E49.m1.6.7.3.3.2.2" stretchy="false" xref="A2.E49.m1.6.7.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E49.m1.6b"><apply id="A2.E49.m1.6.7.cmml" xref="A2.E49.m1.6.7"><eq id="A2.E49.m1.6.7.1.cmml" xref="A2.E49.m1.6.7.1"></eq><apply id="A2.E49.m1.6.7.2.cmml" xref="A2.E49.m1.6.7.2"><times id="A2.E49.m1.6.7.2.1.cmml" xref="A2.E49.m1.6.7.2.1"></times><apply id="A2.E49.m1.6.7.2.2.cmml" xref="A2.E49.m1.6.7.2.2"><csymbol cd="ambiguous" id="A2.E49.m1.6.7.2.2.1.cmml" xref="A2.E49.m1.6.7.2.2">subscript</csymbol><apply id="A2.E49.m1.6.7.2.2.2.cmml" xref="A2.E49.m1.6.7.2.2"><csymbol cd="ambiguous" id="A2.E49.m1.6.7.2.2.2.1.cmml" xref="A2.E49.m1.6.7.2.2">superscript</csymbol><ci id="A2.E49.m1.6.7.2.2.2.2.cmml" xref="A2.E49.m1.6.7.2.2.2.2">𝜎</ci><cn id="A2.E49.m1.6.7.2.2.2.3.cmml" type="integer" xref="A2.E49.m1.6.7.2.2.2.3">2</cn></apply><list id="A2.E49.m1.2.2.2.3.cmml" xref="A2.E49.m1.2.2.2.4"><ci id="A2.E49.m1.1.1.1.1.cmml" xref="A2.E49.m1.1.1.1.1">𝜃</ci><cn id="A2.E49.m1.2.2.2.2.cmml" type="integer" xref="A2.E49.m1.2.2.2.2">1</cn></list></apply><ci id="A2.E49.m1.5.5.cmml" xref="A2.E49.m1.5.5">𝑥</ci></apply><apply id="A2.E49.m1.6.7.3.cmml" xref="A2.E49.m1.6.7.3"><times id="A2.E49.m1.6.7.3.1.cmml" xref="A2.E49.m1.6.7.3.1"></times><apply id="A2.E49.m1.6.7.3.2.cmml" xref="A2.E49.m1.6.7.3.2"><csymbol cd="ambiguous" id="A2.E49.m1.6.7.3.2.1.cmml" xref="A2.E49.m1.6.7.3.2">subscript</csymbol><apply id="A2.E49.m1.6.7.3.2.2.cmml" xref="A2.E49.m1.6.7.3.2"><csymbol cd="ambiguous" id="A2.E49.m1.6.7.3.2.2.1.cmml" xref="A2.E49.m1.6.7.3.2">superscript</csymbol><ci id="A2.E49.m1.6.7.3.2.2.2.cmml" xref="A2.E49.m1.6.7.3.2.2.2">𝜎</ci><cn id="A2.E49.m1.6.7.3.2.2.3.cmml" type="integer" xref="A2.E49.m1.6.7.3.2.2.3">2</cn></apply><list id="A2.E49.m1.4.4.2.3.cmml" xref="A2.E49.m1.4.4.2.4"><ci id="A2.E49.m1.3.3.1.1.cmml" xref="A2.E49.m1.3.3.1.1">𝜃</ci><cn id="A2.E49.m1.4.4.2.2.cmml" type="integer" xref="A2.E49.m1.4.4.2.2">1</cn></list></apply><ci id="A2.E49.m1.6.6.cmml" xref="A2.E49.m1.6.6">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E49.m1.6c">\displaystyle\sigma^{2}_{\theta,1}(x)=\sigma^{2}_{\theta,1}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E49.m1.6d">italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT ( italic_x ) = italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{V}[Y_{1}|X]|[x]_{c}]+\mathbb{V}[\mathbb{E}[Y_% {1}|X]|[x]_{c}]" class="ltx_Math" display="inline" id="A2.E49.m2.4"><semantics id="A2.E49.m2.4a"><mrow id="A2.E49.m2.4.4" xref="A2.E49.m2.4.4.cmml"><mi id="A2.E49.m2.4.4.4" xref="A2.E49.m2.4.4.4.cmml"></mi><mo id="A2.E49.m2.4.4.3" xref="A2.E49.m2.4.4.3.cmml">=</mo><mrow id="A2.E49.m2.4.4.2" xref="A2.E49.m2.4.4.2.cmml"><mrow id="A2.E49.m2.3.3.1.1" xref="A2.E49.m2.3.3.1.1.cmml"><mi id="A2.E49.m2.3.3.1.1.3" xref="A2.E49.m2.3.3.1.1.3.cmml">𝔼</mi><mo id="A2.E49.m2.3.3.1.1.2" xref="A2.E49.m2.3.3.1.1.2.cmml">⁢</mo><mrow id="A2.E49.m2.3.3.1.1.1.1" xref="A2.E49.m2.3.3.1.1.1.2.cmml"><mo id="A2.E49.m2.3.3.1.1.1.1.2" stretchy="false" xref="A2.E49.m2.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A2.E49.m2.3.3.1.1.1.1.1" xref="A2.E49.m2.3.3.1.1.1.1.1.cmml"><mrow id="A2.E49.m2.3.3.1.1.1.1.1.1" xref="A2.E49.m2.3.3.1.1.1.1.1.1.cmml"><mi id="A2.E49.m2.3.3.1.1.1.1.1.1.3" xref="A2.E49.m2.3.3.1.1.1.1.1.1.3.cmml">𝕍</mi><mo id="A2.E49.m2.3.3.1.1.1.1.1.1.2" xref="A2.E49.m2.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.cmml"><msub id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.3" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.1" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.3" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E49.m2.3.3.1.1.1.1.1.2" xref="A2.E49.m2.3.3.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E49.m2.3.3.1.1.1.1.1.3" xref="A2.E49.m2.3.3.1.1.1.1.1.3.cmml"><mrow id="A2.E49.m2.3.3.1.1.1.1.1.3.2.2" xref="A2.E49.m2.3.3.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E49.m2.3.3.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E49.m2.3.3.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E49.m2.1.1" xref="A2.E49.m2.1.1.cmml">x</mi><mo id="A2.E49.m2.3.3.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E49.m2.3.3.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E49.m2.3.3.1.1.1.1.1.3.3" xref="A2.E49.m2.3.3.1.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E49.m2.3.3.1.1.1.1.3" stretchy="false" xref="A2.E49.m2.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E49.m2.4.4.2.3" xref="A2.E49.m2.4.4.2.3.cmml">+</mo><mrow id="A2.E49.m2.4.4.2.2" xref="A2.E49.m2.4.4.2.2.cmml"><mi id="A2.E49.m2.4.4.2.2.3" xref="A2.E49.m2.4.4.2.2.3.cmml">𝕍</mi><mo id="A2.E49.m2.4.4.2.2.2" xref="A2.E49.m2.4.4.2.2.2.cmml">⁢</mo><mrow id="A2.E49.m2.4.4.2.2.1.1" xref="A2.E49.m2.4.4.2.2.1.2.cmml"><mo id="A2.E49.m2.4.4.2.2.1.1.2" stretchy="false" xref="A2.E49.m2.4.4.2.2.1.2.1.cmml">[</mo><mrow id="A2.E49.m2.4.4.2.2.1.1.1" xref="A2.E49.m2.4.4.2.2.1.1.1.cmml"><mrow id="A2.E49.m2.4.4.2.2.1.1.1.1" xref="A2.E49.m2.4.4.2.2.1.1.1.1.cmml"><mi id="A2.E49.m2.4.4.2.2.1.1.1.1.3" xref="A2.E49.m2.4.4.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E49.m2.4.4.2.2.1.1.1.1.2" xref="A2.E49.m2.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.cmml"><msub id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.2" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.3" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.1" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.3" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E49.m2.4.4.2.2.1.1.1.2" xref="A2.E49.m2.4.4.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E49.m2.4.4.2.2.1.1.1.3" xref="A2.E49.m2.4.4.2.2.1.1.1.3.cmml"><mrow id="A2.E49.m2.4.4.2.2.1.1.1.3.2.2" xref="A2.E49.m2.4.4.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E49.m2.4.4.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E49.m2.4.4.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E49.m2.2.2" xref="A2.E49.m2.2.2.cmml">x</mi><mo id="A2.E49.m2.4.4.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E49.m2.4.4.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E49.m2.4.4.2.2.1.1.1.3.3" xref="A2.E49.m2.4.4.2.2.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E49.m2.4.4.2.2.1.1.3" stretchy="false" xref="A2.E49.m2.4.4.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E49.m2.4b"><apply id="A2.E49.m2.4.4.cmml" xref="A2.E49.m2.4.4"><eq id="A2.E49.m2.4.4.3.cmml" xref="A2.E49.m2.4.4.3"></eq><csymbol cd="latexml" id="A2.E49.m2.4.4.4.cmml" xref="A2.E49.m2.4.4.4">absent</csymbol><apply id="A2.E49.m2.4.4.2.cmml" xref="A2.E49.m2.4.4.2"><plus id="A2.E49.m2.4.4.2.3.cmml" xref="A2.E49.m2.4.4.2.3"></plus><apply id="A2.E49.m2.3.3.1.1.cmml" xref="A2.E49.m2.3.3.1.1"><times id="A2.E49.m2.3.3.1.1.2.cmml" xref="A2.E49.m2.3.3.1.1.2"></times><ci id="A2.E49.m2.3.3.1.1.3.cmml" xref="A2.E49.m2.3.3.1.1.3">𝔼</ci><apply id="A2.E49.m2.3.3.1.1.1.2.cmml" xref="A2.E49.m2.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E49.m2.3.3.1.1.1.2.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E49.m2.3.3.1.1.1.1.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A2.E49.m2.3.3.1.1.1.1.1.2.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E49.m2.3.3.1.1.1.1.1.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1"><times id="A2.E49.m2.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.2"></times><ci id="A2.E49.m2.3.3.1.1.1.1.1.1.3.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.3">𝕍</ci><apply id="A2.E49.m2.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E49.m2.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E49.m2.3.3.1.1.1.1.1.3.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E49.m2.3.3.1.1.1.1.1.3.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E49.m2.3.3.1.1.1.1.1.3.2.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E49.m2.3.3.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E49.m2.1.1.cmml" xref="A2.E49.m2.1.1">𝑥</ci></apply><ci id="A2.E49.m2.3.3.1.1.1.1.1.3.3.cmml" xref="A2.E49.m2.3.3.1.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply><apply id="A2.E49.m2.4.4.2.2.cmml" xref="A2.E49.m2.4.4.2.2"><times id="A2.E49.m2.4.4.2.2.2.cmml" xref="A2.E49.m2.4.4.2.2.2"></times><ci id="A2.E49.m2.4.4.2.2.3.cmml" xref="A2.E49.m2.4.4.2.2.3">𝕍</ci><apply id="A2.E49.m2.4.4.2.2.1.2.cmml" xref="A2.E49.m2.4.4.2.2.1.1"><csymbol cd="latexml" id="A2.E49.m2.4.4.2.2.1.2.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E49.m2.4.4.2.2.1.1.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1"><csymbol cd="latexml" id="A2.E49.m2.4.4.2.2.1.1.1.2.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E49.m2.4.4.2.2.1.1.1.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1"><times id="A2.E49.m2.4.4.2.2.1.1.1.1.2.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.2"></times><ci id="A2.E49.m2.4.4.2.2.1.1.1.1.3.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.3">𝔼</ci><apply id="A2.E49.m2.4.4.2.2.1.1.1.1.1.2.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E49.m2.4.4.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E49.m2.4.4.2.2.1.1.1.3.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E49.m2.4.4.2.2.1.1.1.3.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E49.m2.4.4.2.2.1.1.1.3.2.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E49.m2.4.4.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E49.m2.2.2.cmml" xref="A2.E49.m2.2.2">𝑥</ci></apply><ci id="A2.E49.m2.4.4.2.2.1.1.1.3.3.cmml" xref="A2.E49.m2.4.4.2.2.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E49.m2.4c">\displaystyle=\mathbb{E}[\mathbb{V}[Y_{1}|X]|[x]_{c}]+\mathbb{V}[\mathbb{E}[Y_% {1}|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E49.m2.4d">= blackboard_E [ blackboard_V [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ] + blackboard_V [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(49)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_proof" id="A2.2"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof.</h6> <div class="ltx_para" id="A2.2.p1"> <p class="ltx_p" id="A2.2.p1.2">Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2.E48" title="Equation 48 ‣ Lemma B.4. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">48</span></a>) follows immediately from the fact that <math alttext="Y_{1}|X" class="ltx_Math" display="inline" id="A2.2.p1.1.m1.1"><semantics id="A2.2.p1.1.m1.1a"><mrow id="A2.2.p1.1.m1.1.1" xref="A2.2.p1.1.m1.1.1.cmml"><msub id="A2.2.p1.1.m1.1.1.2" xref="A2.2.p1.1.m1.1.1.2.cmml"><mi id="A2.2.p1.1.m1.1.1.2.2" xref="A2.2.p1.1.m1.1.1.2.2.cmml">Y</mi><mn id="A2.2.p1.1.m1.1.1.2.3" xref="A2.2.p1.1.m1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A2.2.p1.1.m1.1.1.1" xref="A2.2.p1.1.m1.1.1.1.cmml">|</mo><mi id="A2.2.p1.1.m1.1.1.3" xref="A2.2.p1.1.m1.1.1.3.cmml">X</mi></mrow><annotation-xml encoding="MathML-Content" id="A2.2.p1.1.m1.1b"><apply id="A2.2.p1.1.m1.1.1.cmml" xref="A2.2.p1.1.m1.1.1"><csymbol cd="latexml" id="A2.2.p1.1.m1.1.1.1.cmml" xref="A2.2.p1.1.m1.1.1.1">conditional</csymbol><apply id="A2.2.p1.1.m1.1.1.2.cmml" xref="A2.2.p1.1.m1.1.1.2"><csymbol cd="ambiguous" id="A2.2.p1.1.m1.1.1.2.1.cmml" xref="A2.2.p1.1.m1.1.1.2">subscript</csymbol><ci id="A2.2.p1.1.m1.1.1.2.2.cmml" xref="A2.2.p1.1.m1.1.1.2.2">𝑌</ci><cn id="A2.2.p1.1.m1.1.1.2.3.cmml" type="integer" xref="A2.2.p1.1.m1.1.1.2.3">1</cn></apply><ci id="A2.2.p1.1.m1.1.1.3.cmml" xref="A2.2.p1.1.m1.1.1.3">𝑋</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.2.p1.1.m1.1c">Y_{1}|X</annotation><annotation encoding="application/x-llamapun" id="A2.2.p1.1.m1.1d">italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X</annotation></semantics></math> and <math alttext="Y_{2}|X" class="ltx_Math" display="inline" id="A2.2.p1.2.m2.1"><semantics id="A2.2.p1.2.m2.1a"><mrow id="A2.2.p1.2.m2.1.1" xref="A2.2.p1.2.m2.1.1.cmml"><msub id="A2.2.p1.2.m2.1.1.2" xref="A2.2.p1.2.m2.1.1.2.cmml"><mi id="A2.2.p1.2.m2.1.1.2.2" xref="A2.2.p1.2.m2.1.1.2.2.cmml">Y</mi><mn id="A2.2.p1.2.m2.1.1.2.3" xref="A2.2.p1.2.m2.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A2.2.p1.2.m2.1.1.1" xref="A2.2.p1.2.m2.1.1.1.cmml">|</mo><mi id="A2.2.p1.2.m2.1.1.3" xref="A2.2.p1.2.m2.1.1.3.cmml">X</mi></mrow><annotation-xml encoding="MathML-Content" id="A2.2.p1.2.m2.1b"><apply id="A2.2.p1.2.m2.1.1.cmml" xref="A2.2.p1.2.m2.1.1"><csymbol cd="latexml" id="A2.2.p1.2.m2.1.1.1.cmml" xref="A2.2.p1.2.m2.1.1.1">conditional</csymbol><apply id="A2.2.p1.2.m2.1.1.2.cmml" xref="A2.2.p1.2.m2.1.1.2"><csymbol cd="ambiguous" id="A2.2.p1.2.m2.1.1.2.1.cmml" xref="A2.2.p1.2.m2.1.1.2">subscript</csymbol><ci id="A2.2.p1.2.m2.1.1.2.2.cmml" xref="A2.2.p1.2.m2.1.1.2.2">𝑌</ci><cn id="A2.2.p1.2.m2.1.1.2.3.cmml" type="integer" xref="A2.2.p1.2.m2.1.1.2.3">2</cn></apply><ci id="A2.2.p1.2.m2.1.1.3.cmml" xref="A2.2.p1.2.m2.1.1.3">𝑋</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.2.p1.2.m2.1c">Y_{2}|X</annotation><annotation encoding="application/x-llamapun" id="A2.2.p1.2.m2.1d">italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X</annotation></semantics></math> are iid. Similarly, Eq. (<a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2.E49" title="Equation 49 ‣ Lemma B.4. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">49</span></a>) follows from Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a>. ∎</p> </div> </div> <div class="ltx_para" id="A2.p5"> <p class="ltx_p" id="A2.p5.4">It makes sense, then, to talk about <math alttext="\mu_{\theta}(x)" class="ltx_Math" display="inline" id="A2.p5.1.m1.1"><semantics id="A2.p5.1.m1.1a"><mrow id="A2.p5.1.m1.1.2" xref="A2.p5.1.m1.1.2.cmml"><msub id="A2.p5.1.m1.1.2.2" xref="A2.p5.1.m1.1.2.2.cmml"><mi id="A2.p5.1.m1.1.2.2.2" xref="A2.p5.1.m1.1.2.2.2.cmml">μ</mi><mi id="A2.p5.1.m1.1.2.2.3" xref="A2.p5.1.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.p5.1.m1.1.2.1" xref="A2.p5.1.m1.1.2.1.cmml">⁢</mo><mrow id="A2.p5.1.m1.1.2.3.2" xref="A2.p5.1.m1.1.2.cmml"><mo id="A2.p5.1.m1.1.2.3.2.1" stretchy="false" xref="A2.p5.1.m1.1.2.cmml">(</mo><mi id="A2.p5.1.m1.1.1" xref="A2.p5.1.m1.1.1.cmml">x</mi><mo id="A2.p5.1.m1.1.2.3.2.2" stretchy="false" xref="A2.p5.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.p5.1.m1.1b"><apply id="A2.p5.1.m1.1.2.cmml" xref="A2.p5.1.m1.1.2"><times id="A2.p5.1.m1.1.2.1.cmml" xref="A2.p5.1.m1.1.2.1"></times><apply id="A2.p5.1.m1.1.2.2.cmml" xref="A2.p5.1.m1.1.2.2"><csymbol cd="ambiguous" id="A2.p5.1.m1.1.2.2.1.cmml" xref="A2.p5.1.m1.1.2.2">subscript</csymbol><ci id="A2.p5.1.m1.1.2.2.2.cmml" xref="A2.p5.1.m1.1.2.2.2">𝜇</ci><ci id="A2.p5.1.m1.1.2.2.3.cmml" xref="A2.p5.1.m1.1.2.2.3">𝜃</ci></apply><ci id="A2.p5.1.m1.1.1.cmml" xref="A2.p5.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p5.1.m1.1c">\mu_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.p5.1.m1.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math> and <math alttext="\sigma_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="A2.p5.2.m2.1"><semantics id="A2.p5.2.m2.1a"><mrow id="A2.p5.2.m2.1.2" xref="A2.p5.2.m2.1.2.cmml"><msubsup id="A2.p5.2.m2.1.2.2" xref="A2.p5.2.m2.1.2.2.cmml"><mi id="A2.p5.2.m2.1.2.2.2.2" xref="A2.p5.2.m2.1.2.2.2.2.cmml">σ</mi><mi id="A2.p5.2.m2.1.2.2.2.3" xref="A2.p5.2.m2.1.2.2.2.3.cmml">θ</mi><mn id="A2.p5.2.m2.1.2.2.3" xref="A2.p5.2.m2.1.2.2.3.cmml">2</mn></msubsup><mo id="A2.p5.2.m2.1.2.1" xref="A2.p5.2.m2.1.2.1.cmml">⁢</mo><mrow id="A2.p5.2.m2.1.2.3.2" xref="A2.p5.2.m2.1.2.cmml"><mo id="A2.p5.2.m2.1.2.3.2.1" stretchy="false" xref="A2.p5.2.m2.1.2.cmml">(</mo><mi id="A2.p5.2.m2.1.1" xref="A2.p5.2.m2.1.1.cmml">x</mi><mo id="A2.p5.2.m2.1.2.3.2.2" stretchy="false" xref="A2.p5.2.m2.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.p5.2.m2.1b"><apply id="A2.p5.2.m2.1.2.cmml" xref="A2.p5.2.m2.1.2"><times id="A2.p5.2.m2.1.2.1.cmml" xref="A2.p5.2.m2.1.2.1"></times><apply id="A2.p5.2.m2.1.2.2.cmml" xref="A2.p5.2.m2.1.2.2"><csymbol cd="ambiguous" id="A2.p5.2.m2.1.2.2.1.cmml" xref="A2.p5.2.m2.1.2.2">superscript</csymbol><apply id="A2.p5.2.m2.1.2.2.2.cmml" xref="A2.p5.2.m2.1.2.2"><csymbol cd="ambiguous" id="A2.p5.2.m2.1.2.2.2.1.cmml" xref="A2.p5.2.m2.1.2.2">subscript</csymbol><ci id="A2.p5.2.m2.1.2.2.2.2.cmml" xref="A2.p5.2.m2.1.2.2.2.2">𝜎</ci><ci id="A2.p5.2.m2.1.2.2.2.3.cmml" xref="A2.p5.2.m2.1.2.2.2.3">𝜃</ci></apply><cn id="A2.p5.2.m2.1.2.2.3.cmml" type="integer" xref="A2.p5.2.m2.1.2.2.3">2</cn></apply><ci id="A2.p5.2.m2.1.1.cmml" xref="A2.p5.2.m2.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p5.2.m2.1c">\sigma_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.p5.2.m2.1d">italic_σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math> without specifying the index. It turns out that the off-diagonal terms in the covariance matrix <math alttext="\Sigma_{\theta}(x)" class="ltx_Math" display="inline" id="A2.p5.3.m3.1"><semantics id="A2.p5.3.m3.1a"><mrow id="A2.p5.3.m3.1.2" xref="A2.p5.3.m3.1.2.cmml"><msub id="A2.p5.3.m3.1.2.2" xref="A2.p5.3.m3.1.2.2.cmml"><mi id="A2.p5.3.m3.1.2.2.2" mathvariant="normal" xref="A2.p5.3.m3.1.2.2.2.cmml">Σ</mi><mi id="A2.p5.3.m3.1.2.2.3" xref="A2.p5.3.m3.1.2.2.3.cmml">θ</mi></msub><mo id="A2.p5.3.m3.1.2.1" xref="A2.p5.3.m3.1.2.1.cmml">⁢</mo><mrow id="A2.p5.3.m3.1.2.3.2" xref="A2.p5.3.m3.1.2.cmml"><mo id="A2.p5.3.m3.1.2.3.2.1" stretchy="false" xref="A2.p5.3.m3.1.2.cmml">(</mo><mi id="A2.p5.3.m3.1.1" xref="A2.p5.3.m3.1.1.cmml">x</mi><mo id="A2.p5.3.m3.1.2.3.2.2" stretchy="false" xref="A2.p5.3.m3.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.p5.3.m3.1b"><apply id="A2.p5.3.m3.1.2.cmml" xref="A2.p5.3.m3.1.2"><times id="A2.p5.3.m3.1.2.1.cmml" xref="A2.p5.3.m3.1.2.1"></times><apply id="A2.p5.3.m3.1.2.2.cmml" xref="A2.p5.3.m3.1.2.2"><csymbol cd="ambiguous" id="A2.p5.3.m3.1.2.2.1.cmml" xref="A2.p5.3.m3.1.2.2">subscript</csymbol><ci id="A2.p5.3.m3.1.2.2.2.cmml" xref="A2.p5.3.m3.1.2.2.2">Σ</ci><ci id="A2.p5.3.m3.1.2.2.3.cmml" xref="A2.p5.3.m3.1.2.2.3">𝜃</ci></apply><ci id="A2.p5.3.m3.1.1.cmml" xref="A2.p5.3.m3.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p5.3.m3.1c">\Sigma_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.p5.3.m3.1d">roman_Σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math>, i.e. <math alttext="\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="A2.p5.4.m4.1"><semantics id="A2.p5.4.m4.1a"><mrow id="A2.p5.4.m4.1.2" xref="A2.p5.4.m4.1.2.cmml"><msub id="A2.p5.4.m4.1.2.2" xref="A2.p5.4.m4.1.2.2.cmml"><mi id="A2.p5.4.m4.1.2.2.2" xref="A2.p5.4.m4.1.2.2.2.cmml">cov</mi><mi id="A2.p5.4.m4.1.2.2.3" xref="A2.p5.4.m4.1.2.2.3.cmml">θ</mi></msub><mo id="A2.p5.4.m4.1.2.1" xref="A2.p5.4.m4.1.2.1.cmml">⁢</mo><mrow id="A2.p5.4.m4.1.2.3.2" xref="A2.p5.4.m4.1.2.cmml"><mo id="A2.p5.4.m4.1.2.3.2.1" stretchy="false" xref="A2.p5.4.m4.1.2.cmml">(</mo><mi id="A2.p5.4.m4.1.1" xref="A2.p5.4.m4.1.1.cmml">x</mi><mo id="A2.p5.4.m4.1.2.3.2.2" stretchy="false" xref="A2.p5.4.m4.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.p5.4.m4.1b"><apply id="A2.p5.4.m4.1.2.cmml" xref="A2.p5.4.m4.1.2"><times id="A2.p5.4.m4.1.2.1.cmml" xref="A2.p5.4.m4.1.2.1"></times><apply id="A2.p5.4.m4.1.2.2.cmml" xref="A2.p5.4.m4.1.2.2"><csymbol cd="ambiguous" id="A2.p5.4.m4.1.2.2.1.cmml" xref="A2.p5.4.m4.1.2.2">subscript</csymbol><ci id="A2.p5.4.m4.1.2.2.2.cmml" xref="A2.p5.4.m4.1.2.2.2">cov</ci><ci id="A2.p5.4.m4.1.2.2.3.cmml" xref="A2.p5.4.m4.1.2.2.3">𝜃</ci></apply><ci id="A2.p5.4.m4.1.1.cmml" xref="A2.p5.4.m4.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.p5.4.m4.1c">\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.p5.4.m4.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math>, behave according to Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a>:</p> </div> <div class="ltx_theorem ltx_theorem_theorem" id="A2.Thmtheorem5"> <h6 class="ltx_title ltx_runin ltx_title_theorem"> <span class="ltx_tag ltx_tag_theorem"><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem5.1.1.1">Theorem B.5</span></span><span class="ltx_text ltx_font_bold" id="A2.Thmtheorem5.2.2">.</span> </h6> <div class="ltx_para" id="A2.Thmtheorem5.p1"> <p class="ltx_p" id="A2.Thmtheorem5.p1.1"><span class="ltx_text ltx_font_italic" id="A2.Thmtheorem5.p1.1.1">Under the same hypothesis of Lemma <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A2.Thmtheorem4" title="Lemma B.4. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">B.4</span></a>, the off-diagonal terms of <math alttext="\Sigma_{\theta}(x)" class="ltx_Math" display="inline" id="A2.Thmtheorem5.p1.1.1.m1.1"><semantics id="A2.Thmtheorem5.p1.1.1.m1.1a"><mrow id="A2.Thmtheorem5.p1.1.1.m1.1.2" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.cmml"><msub id="A2.Thmtheorem5.p1.1.1.m1.1.2.2" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.2.cmml"><mi id="A2.Thmtheorem5.p1.1.1.m1.1.2.2.2" mathvariant="normal" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.2.2.cmml">Σ</mi><mi id="A2.Thmtheorem5.p1.1.1.m1.1.2.2.3" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.Thmtheorem5.p1.1.1.m1.1.2.1" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.1.cmml">⁢</mo><mrow id="A2.Thmtheorem5.p1.1.1.m1.1.2.3.2" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.cmml"><mo id="A2.Thmtheorem5.p1.1.1.m1.1.2.3.2.1" stretchy="false" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.cmml">(</mo><mi id="A2.Thmtheorem5.p1.1.1.m1.1.1" xref="A2.Thmtheorem5.p1.1.1.m1.1.1.cmml">x</mi><mo id="A2.Thmtheorem5.p1.1.1.m1.1.2.3.2.2" stretchy="false" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.Thmtheorem5.p1.1.1.m1.1b"><apply id="A2.Thmtheorem5.p1.1.1.m1.1.2.cmml" xref="A2.Thmtheorem5.p1.1.1.m1.1.2"><times id="A2.Thmtheorem5.p1.1.1.m1.1.2.1.cmml" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.1"></times><apply id="A2.Thmtheorem5.p1.1.1.m1.1.2.2.cmml" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="A2.Thmtheorem5.p1.1.1.m1.1.2.2.1.cmml" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.2">subscript</csymbol><ci id="A2.Thmtheorem5.p1.1.1.m1.1.2.2.2.cmml" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.2.2">Σ</ci><ci id="A2.Thmtheorem5.p1.1.1.m1.1.2.2.3.cmml" xref="A2.Thmtheorem5.p1.1.1.m1.1.2.2.3">𝜃</ci></apply><ci id="A2.Thmtheorem5.p1.1.1.m1.1.1.cmml" xref="A2.Thmtheorem5.p1.1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.Thmtheorem5.p1.1.1.m1.1c">\Sigma_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.Thmtheorem5.p1.1.1.m1.1d">roman_Σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math> read:</span></p> <table class="ltx_equation ltx_eqn_table" id="A2.E50"> <tbody><tr class="ltx_equation ltx_eqn_row ltx_align_baseline"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_eqn_cell ltx_align_center"><math alttext="\mathrm{cov}_{\theta}(x)=\mathbb{V}[\mathbb{E}[Y|X]|[x]_{c}]" class="ltx_Math" display="block" id="A2.E50.m1.3"><semantics id="A2.E50.m1.3a"><mrow id="A2.E50.m1.3.3" xref="A2.E50.m1.3.3.cmml"><mrow id="A2.E50.m1.3.3.3" xref="A2.E50.m1.3.3.3.cmml"><msub id="A2.E50.m1.3.3.3.2" xref="A2.E50.m1.3.3.3.2.cmml"><mi id="A2.E50.m1.3.3.3.2.2" xref="A2.E50.m1.3.3.3.2.2.cmml">cov</mi><mi id="A2.E50.m1.3.3.3.2.3" xref="A2.E50.m1.3.3.3.2.3.cmml">θ</mi></msub><mo id="A2.E50.m1.3.3.3.1" xref="A2.E50.m1.3.3.3.1.cmml">⁢</mo><mrow id="A2.E50.m1.3.3.3.3.2" xref="A2.E50.m1.3.3.3.cmml"><mo id="A2.E50.m1.3.3.3.3.2.1" stretchy="false" xref="A2.E50.m1.3.3.3.cmml">(</mo><mi id="A2.E50.m1.1.1" xref="A2.E50.m1.1.1.cmml">x</mi><mo id="A2.E50.m1.3.3.3.3.2.2" stretchy="false" xref="A2.E50.m1.3.3.3.cmml">)</mo></mrow></mrow><mo id="A2.E50.m1.3.3.2" xref="A2.E50.m1.3.3.2.cmml">=</mo><mrow id="A2.E50.m1.3.3.1" xref="A2.E50.m1.3.3.1.cmml"><mi id="A2.E50.m1.3.3.1.3" xref="A2.E50.m1.3.3.1.3.cmml">𝕍</mi><mo id="A2.E50.m1.3.3.1.2" xref="A2.E50.m1.3.3.1.2.cmml">⁢</mo><mrow id="A2.E50.m1.3.3.1.1.1" xref="A2.E50.m1.3.3.1.1.2.cmml"><mo id="A2.E50.m1.3.3.1.1.1.2" stretchy="false" xref="A2.E50.m1.3.3.1.1.2.1.cmml">[</mo><mrow id="A2.E50.m1.3.3.1.1.1.1" xref="A2.E50.m1.3.3.1.1.1.1.cmml"><mrow id="A2.E50.m1.3.3.1.1.1.1.1" xref="A2.E50.m1.3.3.1.1.1.1.1.cmml"><mi id="A2.E50.m1.3.3.1.1.1.1.1.3" xref="A2.E50.m1.3.3.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E50.m1.3.3.1.1.1.1.1.2" xref="A2.E50.m1.3.3.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E50.m1.3.3.1.1.1.1.1.1.1" xref="A2.E50.m1.3.3.1.1.1.1.1.1.2.cmml"><mo id="A2.E50.m1.3.3.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E50.m1.3.3.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.2" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.3" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E50.m1.3.3.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E50.m1.3.3.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E50.m1.3.3.1.1.1.1.2" xref="A2.E50.m1.3.3.1.1.1.1.2.cmml">|</mo><msub id="A2.E50.m1.3.3.1.1.1.1.3" xref="A2.E50.m1.3.3.1.1.1.1.3.cmml"><mrow id="A2.E50.m1.3.3.1.1.1.1.3.2.2" xref="A2.E50.m1.3.3.1.1.1.1.3.2.1.cmml"><mo id="A2.E50.m1.3.3.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E50.m1.3.3.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E50.m1.2.2" xref="A2.E50.m1.2.2.cmml">x</mi><mo id="A2.E50.m1.3.3.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E50.m1.3.3.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E50.m1.3.3.1.1.1.1.3.3" xref="A2.E50.m1.3.3.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E50.m1.3.3.1.1.1.3" stretchy="false" xref="A2.E50.m1.3.3.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E50.m1.3b"><apply id="A2.E50.m1.3.3.cmml" xref="A2.E50.m1.3.3"><eq id="A2.E50.m1.3.3.2.cmml" xref="A2.E50.m1.3.3.2"></eq><apply id="A2.E50.m1.3.3.3.cmml" xref="A2.E50.m1.3.3.3"><times id="A2.E50.m1.3.3.3.1.cmml" xref="A2.E50.m1.3.3.3.1"></times><apply id="A2.E50.m1.3.3.3.2.cmml" xref="A2.E50.m1.3.3.3.2"><csymbol cd="ambiguous" id="A2.E50.m1.3.3.3.2.1.cmml" xref="A2.E50.m1.3.3.3.2">subscript</csymbol><ci id="A2.E50.m1.3.3.3.2.2.cmml" xref="A2.E50.m1.3.3.3.2.2">cov</ci><ci id="A2.E50.m1.3.3.3.2.3.cmml" xref="A2.E50.m1.3.3.3.2.3">𝜃</ci></apply><ci id="A2.E50.m1.1.1.cmml" xref="A2.E50.m1.1.1">𝑥</ci></apply><apply id="A2.E50.m1.3.3.1.cmml" xref="A2.E50.m1.3.3.1"><times id="A2.E50.m1.3.3.1.2.cmml" xref="A2.E50.m1.3.3.1.2"></times><ci id="A2.E50.m1.3.3.1.3.cmml" xref="A2.E50.m1.3.3.1.3">𝕍</ci><apply id="A2.E50.m1.3.3.1.1.2.cmml" xref="A2.E50.m1.3.3.1.1.1"><csymbol cd="latexml" id="A2.E50.m1.3.3.1.1.2.1.cmml" xref="A2.E50.m1.3.3.1.1.1.2">delimited-[]</csymbol><apply id="A2.E50.m1.3.3.1.1.1.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E50.m1.3.3.1.1.1.1.2.cmml" xref="A2.E50.m1.3.3.1.1.1.1.2">conditional</csymbol><apply id="A2.E50.m1.3.3.1.1.1.1.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1"><times id="A2.E50.m1.3.3.1.1.1.1.1.2.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.2"></times><ci id="A2.E50.m1.3.3.1.1.1.1.1.3.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.3">𝔼</ci><apply id="A2.E50.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E50.m1.3.3.1.1.1.1.1.1.2.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E50.m1.3.3.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E50.m1.3.3.1.1.1.1.3.cmml" xref="A2.E50.m1.3.3.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E50.m1.3.3.1.1.1.1.3.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1.3">subscript</csymbol><apply id="A2.E50.m1.3.3.1.1.1.1.3.2.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E50.m1.3.3.1.1.1.1.3.2.1.1.cmml" xref="A2.E50.m1.3.3.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E50.m1.2.2.cmml" xref="A2.E50.m1.2.2">𝑥</ci></apply><ci id="A2.E50.m1.3.3.1.1.1.1.3.3.cmml" xref="A2.E50.m1.3.3.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E50.m1.3c">\mathrm{cov}_{\theta}(x)=\mathbb{V}[\mathbb{E}[Y|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E50.m1.3d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) = blackboard_V [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="1"><span class="ltx_tag ltx_tag_equation ltx_align_right">(50)</span></td> </tr></tbody> </table> </div> </div> <div class="ltx_proof" id="A2.3"> <h6 class="ltx_title ltx_runin ltx_font_italic ltx_title_proof">Proof.</h6> <div class="ltx_para" id="A2.3.p1"> <table class="ltx_equationgroup ltx_eqn_table" id="A2.E51"> <tbody> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E51X"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mathrm{cov}_{\theta}(x)" class="ltx_Math" display="inline" id="A2.E51X.2.1.1.m1.1"><semantics id="A2.E51X.2.1.1.m1.1a"><mrow id="A2.E51X.2.1.1.m1.1.2" xref="A2.E51X.2.1.1.m1.1.2.cmml"><msub id="A2.E51X.2.1.1.m1.1.2.2" xref="A2.E51X.2.1.1.m1.1.2.2.cmml"><mi id="A2.E51X.2.1.1.m1.1.2.2.2" xref="A2.E51X.2.1.1.m1.1.2.2.2.cmml">cov</mi><mi id="A2.E51X.2.1.1.m1.1.2.2.3" xref="A2.E51X.2.1.1.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E51X.2.1.1.m1.1.2.1" xref="A2.E51X.2.1.1.m1.1.2.1.cmml">⁢</mo><mrow id="A2.E51X.2.1.1.m1.1.2.3.2" xref="A2.E51X.2.1.1.m1.1.2.cmml"><mo id="A2.E51X.2.1.1.m1.1.2.3.2.1" stretchy="false" xref="A2.E51X.2.1.1.m1.1.2.cmml">(</mo><mi id="A2.E51X.2.1.1.m1.1.1" xref="A2.E51X.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E51X.2.1.1.m1.1.2.3.2.2" stretchy="false" xref="A2.E51X.2.1.1.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E51X.2.1.1.m1.1b"><apply id="A2.E51X.2.1.1.m1.1.2.cmml" xref="A2.E51X.2.1.1.m1.1.2"><times id="A2.E51X.2.1.1.m1.1.2.1.cmml" xref="A2.E51X.2.1.1.m1.1.2.1"></times><apply id="A2.E51X.2.1.1.m1.1.2.2.cmml" xref="A2.E51X.2.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E51X.2.1.1.m1.1.2.2.1.cmml" xref="A2.E51X.2.1.1.m1.1.2.2">subscript</csymbol><ci id="A2.E51X.2.1.1.m1.1.2.2.2.cmml" xref="A2.E51X.2.1.1.m1.1.2.2.2">cov</ci><ci id="A2.E51X.2.1.1.m1.1.2.2.3.cmml" xref="A2.E51X.2.1.1.m1.1.2.2.3">𝜃</ci></apply><ci id="A2.E51X.2.1.1.m1.1.1.cmml" xref="A2.E51X.2.1.1.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51X.2.1.1.m1.1c">\displaystyle\mathrm{cov}_{\theta}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E51X.2.1.1.m1.1d">roman_cov start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[(Y_{1}-\mu_{\theta}(X))(Y_{2}-\mu_{\theta}% (X))|X]|[x]_{c}]" class="ltx_Math" display="inline" id="A2.E51X.3.2.2.m1.4"><semantics id="A2.E51X.3.2.2.m1.4a"><mrow id="A2.E51X.3.2.2.m1.4.4" xref="A2.E51X.3.2.2.m1.4.4.cmml"><mi id="A2.E51X.3.2.2.m1.4.4.3" xref="A2.E51X.3.2.2.m1.4.4.3.cmml"></mi><mo id="A2.E51X.3.2.2.m1.4.4.2" xref="A2.E51X.3.2.2.m1.4.4.2.cmml">=</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1" xref="A2.E51X.3.2.2.m1.4.4.1.cmml"><mi id="A2.E51X.3.2.2.m1.4.4.1.3" xref="A2.E51X.3.2.2.m1.4.4.1.3.cmml">𝔼</mi><mo id="A2.E51X.3.2.2.m1.4.4.1.2" xref="A2.E51X.3.2.2.m1.4.4.1.2.cmml">⁢</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.2.cmml"><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.2" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.2.1.cmml">[</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.cmml"><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.cmml"><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.2.cmml"><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.cmml"><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.cmml">(</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.cmml"><msub id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml">−</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml"><msub id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.cmml"><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.2.cmml">μ</mi><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.3.cmml">θ</mi></msub><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.1.cmml">⁢</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.3.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml"><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.3.2.1" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml">(</mo><mi id="A2.E51X.3.2.2.m1.1.1" xref="A2.E51X.3.2.2.m1.1.1.cmml">X</mi><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.3.2.2" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.cmml">)</mo></mrow><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.3.cmml">⁢</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.cmml"><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.2" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.cmml">(</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.cmml"><msub id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.cmml"><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.2.cmml">Y</mi><mn id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.3.cmml">2</mn></msub><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.1.cmml">−</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.cmml"><msub id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.cmml"><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.2.cmml">μ</mi><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.3.cmml">θ</mi></msub><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.1" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.1.cmml">⁢</mo><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.3.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.cmml"><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.3.2.1" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.cmml">(</mo><mi id="A2.E51X.3.2.2.m1.2.2" xref="A2.E51X.3.2.2.m1.2.2.cmml">X</mi><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.3.2.2" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.cmml">)</mo></mrow></mrow></mrow><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.3" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.cmml">)</mo></mrow></mrow><mo fence="false" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.3.cmml">|</mo><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.4" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.4.cmml">X</mi></mrow><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.2.cmml">|</mo><msub id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.cmml"><mrow id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.2" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.1.cmml"><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51X.3.2.2.m1.3.3" xref="A2.E51X.3.2.2.m1.3.3.cmml">x</mi><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.3" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51X.3.2.2.m1.4.4.1.1.1.3" stretchy="false" xref="A2.E51X.3.2.2.m1.4.4.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E51X.3.2.2.m1.4b"><apply id="A2.E51X.3.2.2.m1.4.4.cmml" xref="A2.E51X.3.2.2.m1.4.4"><eq id="A2.E51X.3.2.2.m1.4.4.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.2"></eq><csymbol cd="latexml" id="A2.E51X.3.2.2.m1.4.4.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.3">absent</csymbol><apply id="A2.E51X.3.2.2.m1.4.4.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1"><times id="A2.E51X.3.2.2.m1.4.4.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.2"></times><ci id="A2.E51X.3.2.2.m1.4.4.1.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.3">𝔼</ci><apply id="A2.E51X.3.2.2.m1.4.4.1.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1"><csymbol cd="latexml" id="A2.E51X.3.2.2.m1.4.4.1.1.2.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1"><csymbol cd="latexml" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.2">conditional</csymbol><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1"><times id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.2"></times><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.3">𝔼</ci><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.2.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.3">conditional</csymbol><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2"><times id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.3"></times><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1"><minus id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.1"></minus><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.2.3">1</cn></apply><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3"><times id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.1"></times><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2"><csymbol cd="ambiguous" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2">subscript</csymbol><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.2">𝜇</ci><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.1.1.1.1.3.2.3">𝜃</ci></apply><ci id="A2.E51X.3.2.2.m1.1.1.cmml" xref="A2.E51X.3.2.2.m1.1.1">𝑋</ci></apply></apply><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1"><minus id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.1"></minus><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2"><csymbol cd="ambiguous" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2">subscript</csymbol><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.2">𝑌</ci><cn id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.3.cmml" type="integer" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.2.3">2</cn></apply><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3"><times id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.1"></times><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2"><csymbol cd="ambiguous" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2">subscript</csymbol><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.2.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.2">𝜇</ci><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.2.2.1.1.3.2.3">𝜃</ci></apply><ci id="A2.E51X.3.2.2.m1.2.2.cmml" xref="A2.E51X.3.2.2.m1.2.2">𝑋</ci></apply></apply></apply><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.4.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.1.1.1.1.4">𝑋</ci></apply></apply></apply><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3">subscript</csymbol><apply id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.1.1.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51X.3.2.2.m1.3.3.cmml" xref="A2.E51X.3.2.2.m1.3.3">𝑥</ci></apply><ci id="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.3.cmml" xref="A2.E51X.3.2.2.m1.4.4.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51X.3.2.2.m1.4c">\displaystyle=\mathbb{E}[\mathbb{E}[(Y_{1}-\mu_{\theta}(X))(Y_{2}-\mu_{\theta}% (X))|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E51X.3.2.2.m1.4d">= blackboard_E [ blackboard_E [ ( italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) ) ( italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) ) | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E51X.5.1.1.1">Def. </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#A2.Thmtheorem3" title="Definition B.3. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">B.3</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> <td class="ltx_eqn_cell ltx_eqn_eqno ltx_align_middle ltx_align_right" rowspan="6"><span class="ltx_tag ltx_tag_equationgroup ltx_align_right">(51)</span></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E51Xa"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}Y_{2}-Y_{1}\mu_{\theta}(X)-Y_{2}\mu_{% \theta}(X)+\mu_{\theta}^{2}(X)|X]|[x]_{c}]" class="ltx_Math" display="inline" id="A2.E51Xa.2.1.1.m1.5"><semantics id="A2.E51Xa.2.1.1.m1.5a"><mrow id="A2.E51Xa.2.1.1.m1.5.5" xref="A2.E51Xa.2.1.1.m1.5.5.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.3" xref="A2.E51Xa.2.1.1.m1.5.5.3.cmml"></mi><mo id="A2.E51Xa.2.1.1.m1.5.5.2" xref="A2.E51Xa.2.1.1.m1.5.5.2.cmml">=</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.3.cmml">𝔼</mi><mo id="A2.E51Xa.2.1.1.m1.5.5.1.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.2.cmml">⁢</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.2.cmml"><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.2" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.cmml"><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml"><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml"><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.cmml"><msub id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.2.cmml">Y</mi><mn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.3.cmml">1</mn></msub><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.1.cmml">⁢</mo><msub id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.2.cmml">Y</mi><mn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.3.cmml">2</mn></msub></mrow><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1.cmml">−</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.cmml"><msub id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.2.cmml">Y</mi><mn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.3.cmml">1</mn></msub><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.1.cmml">⁢</mo><msub id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.2.cmml">μ</mi><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.3.cmml">θ</mi></msub><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.1a" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.1.cmml">⁢</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.4.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.cmml"><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.4.2.1" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.cmml">(</mo><mi id="A2.E51Xa.2.1.1.m1.1.1" xref="A2.E51Xa.2.1.1.m1.1.1.cmml">X</mi><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.4.2.2" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.cmml">)</mo></mrow></mrow><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1a" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1.cmml">−</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.cmml"><msub id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.2.cmml">Y</mi><mn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.3.cmml">2</mn></msub><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.1.cmml">⁢</mo><msub id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.2.cmml">μ</mi><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.3.cmml">θ</mi></msub><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.1a" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.1.cmml">⁢</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.4.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.cmml"><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.4.2.1" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.cmml">(</mo><mi id="A2.E51Xa.2.1.1.m1.2.2" xref="A2.E51Xa.2.1.1.m1.2.2.cmml">X</mi><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.4.2.2" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.cmml">)</mo></mrow></mrow></mrow><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.cmml">+</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml"><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.cmml"><msubsup id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.cmml"><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.2.cmml">μ</mi><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.3.cmml">θ</mi><mn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.3.cmml">2</mn></msubsup><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.1.cmml">⁢</mo><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.3.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.cmml"><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.3.2.1" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.cmml">(</mo><mi id="A2.E51Xa.2.1.1.m1.3.3" xref="A2.E51Xa.2.1.1.m1.3.3.cmml">X</mi><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.3.2.2" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.cmml">)</mo></mrow></mrow><mo fence="false" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1.cmml">|</mo><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.3.cmml">X</mi></mrow></mrow><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.2.cmml">|</mo><msub id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.cmml"><mrow id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.2" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.1.cmml"><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xa.2.1.1.m1.4.4" xref="A2.E51Xa.2.1.1.m1.4.4.cmml">x</mi><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.3" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.3" stretchy="false" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E51Xa.2.1.1.m1.5b"><apply id="A2.E51Xa.2.1.1.m1.5.5.cmml" xref="A2.E51Xa.2.1.1.m1.5.5"><eq id="A2.E51Xa.2.1.1.m1.5.5.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.2"></eq><csymbol cd="latexml" id="A2.E51Xa.2.1.1.m1.5.5.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.3">absent</csymbol><apply id="A2.E51Xa.2.1.1.m1.5.5.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1"><times id="A2.E51Xa.2.1.1.m1.5.5.1.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.2"></times><ci id="A2.E51Xa.2.1.1.m1.5.5.1.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.3">𝔼</ci><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1"><csymbol cd="latexml" id="A2.E51Xa.2.1.1.m1.5.5.1.1.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.2">conditional</csymbol><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1"><times id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.2"></times><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.3">𝔼</ci><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1"><plus id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.1"></plus><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2"><minus id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.1"></minus><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2"><times id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.1"></times><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2">subscript</csymbol><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.2">𝑌</ci><cn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.3.cmml" type="integer" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.2.3">1</cn></apply><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3">subscript</csymbol><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.2">𝑌</ci><cn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.3.cmml" type="integer" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.2.3.3">2</cn></apply></apply><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3"><times id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.1"></times><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2">subscript</csymbol><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.2">𝑌</ci><cn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.3.cmml" type="integer" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.2.3">1</cn></apply><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3">subscript</csymbol><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.2">𝜇</ci><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.3.3.3">𝜃</ci></apply><ci id="A2.E51Xa.2.1.1.m1.1.1.cmml" xref="A2.E51Xa.2.1.1.m1.1.1">𝑋</ci></apply><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4"><times id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.1"></times><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2">subscript</csymbol><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.2">𝑌</ci><cn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.3.cmml" type="integer" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.2.3">2</cn></apply><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3">subscript</csymbol><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.2">𝜇</ci><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.2.4.3.3">𝜃</ci></apply><ci id="A2.E51Xa.2.1.1.m1.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.2.2">𝑋</ci></apply></apply><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3"><csymbol cd="latexml" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.1">conditional</csymbol><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2"><times id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.1"></times><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2">superscript</csymbol><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2">subscript</csymbol><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.2.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.2">𝜇</ci><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.2.3">𝜃</ci></apply><cn id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.3.cmml" type="integer" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.2.2.3">2</cn></apply><ci id="A2.E51Xa.2.1.1.m1.3.3.cmml" xref="A2.E51Xa.2.1.1.m1.3.3">𝑋</ci></apply><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.1.1.1.1.3.3">𝑋</ci></apply></apply></apply></apply><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3">subscript</csymbol><apply id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.1.1.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xa.2.1.1.m1.4.4.cmml" xref="A2.E51Xa.2.1.1.m1.4.4">𝑥</ci></apply><ci id="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.3.cmml" xref="A2.E51Xa.2.1.1.m1.5.5.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51Xa.2.1.1.m1.5c">\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}Y_{2}-Y_{1}\mu_{\theta}(X)-Y_{2}\mu_{% \theta}(X)+\mu_{\theta}^{2}(X)|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E51Xa.2.1.1.m1.5d">= blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT - italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) - italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_X ) + italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_X ) | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright" colspan="2"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E51Xb"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}Y_{2}|X]|[x]_{c}]-\mu_{\theta}(x)% \mathbb{E}[\mathbb{E}[Y_{1}|X]|[x]_{c}]-\mu_{\theta}(x)\mathbb{E}[\mathbb{E}[Y% _{2}|X]|[x]_{c}]+\mu_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="A2.E51Xb.2.1.1.m1.9"><semantics id="A2.E51Xb.2.1.1.m1.9a"><mrow id="A2.E51Xb.2.1.1.m1.9.9" xref="A2.E51Xb.2.1.1.m1.9.9.cmml"><mi id="A2.E51Xb.2.1.1.m1.9.9.5" xref="A2.E51Xb.2.1.1.m1.9.9.5.cmml"></mi><mo id="A2.E51Xb.2.1.1.m1.9.9.4" xref="A2.E51Xb.2.1.1.m1.9.9.4.cmml">=</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.cmml"><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.cmml"><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.cmml"><mi id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.2.cmml"><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.cmml"><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.cmml"><mi id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.cmml"><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.cmml"><msub id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.cmml"><mi id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.2.cmml">Y</mi><mn id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml">1</mn></msub><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.1.cmml">⁢</mo><msub id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.cmml"><mi id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.2.cmml">Y</mi><mn id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.3.cmml">2</mn></msub></mrow><mo fence="false" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.cmml"><mrow id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.2" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xb.2.1.1.m1.1.1" xref="A2.E51Xb.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.3" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.4" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.4.cmml">−</mo><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.cmml"><msub id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.cmml"><mi id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.2.cmml">μ</mi><mi id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.3" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.3.cmml">θ</mi></msub><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.4.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.cmml"><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.4.2.1" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.cmml">(</mo><mi id="A2.E51Xb.2.1.1.m1.2.2" xref="A2.E51Xb.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.4.2.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.cmml">)</mo></mrow><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2a" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2.cmml">⁢</mo><mi id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.5" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.5.cmml">𝔼</mi><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2b" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.2.cmml"><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.2.1.cmml">[</mo><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.cmml"><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.cmml"><mi id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.cmml"><msub id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.3" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.cmml"><mrow id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.2" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xb.2.1.1.m1.3.3" xref="A2.E51Xb.2.1.1.m1.3.3.cmml">x</mi><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.3" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.3" stretchy="false" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.4a" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.4.cmml">−</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.cmml"><msub id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.cmml"><mi id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.2.cmml">μ</mi><mi id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.3.cmml">θ</mi></msub><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.4.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.cmml"><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.4.2.1" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.cmml">(</mo><mi id="A2.E51Xb.2.1.1.m1.4.4" xref="A2.E51Xb.2.1.1.m1.4.4.cmml">x</mi><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.4.2.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.cmml">)</mo></mrow><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2a" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2.cmml">⁢</mo><mi id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.5" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.5.cmml">𝔼</mi><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2b" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.2.cmml"><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.2.1.cmml">[</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.cmml"><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.cmml"><mi id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.2.cmml"><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.cmml"><msub id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.cmml"><mi id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.2.cmml">Y</mi><mn id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.3.cmml">2</mn></msub><mo fence="false" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.1" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.2.cmml">|</mo><msub id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.cmml"><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.1.cmml"><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xb.2.1.1.m1.5.5" xref="A2.E51Xb.2.1.1.m1.5.5.cmml">x</mi><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.3" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.2.1.cmml">]</mo></mrow></mrow></mrow><mo id="A2.E51Xb.2.1.1.m1.9.9.3.4" xref="A2.E51Xb.2.1.1.m1.9.9.3.4.cmml">+</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.5" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.cmml"><msubsup id="A2.E51Xb.2.1.1.m1.9.9.3.5.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2.cmml"><mi id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.2.cmml">μ</mi><mi id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.3.cmml">θ</mi><mn id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.3" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2.3.cmml">2</mn></msubsup><mo id="A2.E51Xb.2.1.1.m1.9.9.3.5.1" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.1.cmml">⁢</mo><mrow id="A2.E51Xb.2.1.1.m1.9.9.3.5.3.2" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.cmml"><mo id="A2.E51Xb.2.1.1.m1.9.9.3.5.3.2.1" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.cmml">(</mo><mi id="A2.E51Xb.2.1.1.m1.6.6" xref="A2.E51Xb.2.1.1.m1.6.6.cmml">x</mi><mo id="A2.E51Xb.2.1.1.m1.9.9.3.5.3.2.2" stretchy="false" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E51Xb.2.1.1.m1.9b"><apply id="A2.E51Xb.2.1.1.m1.9.9.cmml" xref="A2.E51Xb.2.1.1.m1.9.9"><eq id="A2.E51Xb.2.1.1.m1.9.9.4.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.4"></eq><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.9.9.5.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.5">absent</csymbol><apply id="A2.E51Xb.2.1.1.m1.9.9.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3"><plus id="A2.E51Xb.2.1.1.m1.9.9.3.4.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.4"></plus><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3"><minus id="A2.E51Xb.2.1.1.m1.9.9.3.3.4.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.4"></minus><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1"><times id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.2"></times><ci id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.3">𝔼</ci><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1"><times id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.2"></times><ci id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.3">𝔼</ci><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2"><times id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.1"></times><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2">subscript</csymbol><ci id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.2">𝑌</ci><cn id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.3.cmml" type="integer" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.2.3">1</cn></apply><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3">subscript</csymbol><ci id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.2.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.2">𝑌</ci><cn id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.3.cmml" type="integer" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.2.3.3">2</cn></apply></apply><ci id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xb.2.1.1.m1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.7.7.1.1.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2"><times id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.2"></times><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3">subscript</csymbol><ci id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.2">𝜇</ci><ci id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.3.3">𝜃</ci></apply><ci id="A2.E51Xb.2.1.1.m1.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.2.2">𝑥</ci><ci id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.5.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.5">𝔼</ci><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1"><times id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.2"></times><ci id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.3">𝔼</ci><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.2.3">1</cn></apply><ci id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xb.2.1.1.m1.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.3.3">𝑥</ci></apply><ci id="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.8.8.2.2.2.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3"><times id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.2"></times><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3">subscript</csymbol><ci id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.2">𝜇</ci><ci id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.3.3">𝜃</ci></apply><ci id="A2.E51Xb.2.1.1.m1.4.4.cmml" xref="A2.E51Xb.2.1.1.m1.4.4">𝑥</ci><ci id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.5.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.5">𝔼</ci><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.2">conditional</csymbol><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1"><times id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.2"></times><ci id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.3">𝔼</ci><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.1">conditional</csymbol><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2">subscript</csymbol><ci id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.2">𝑌</ci><cn id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.3.cmml" type="integer" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.2.3">2</cn></apply><ci id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3">subscript</csymbol><apply id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.1.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xb.2.1.1.m1.5.5.cmml" xref="A2.E51Xb.2.1.1.m1.5.5">𝑥</ci></apply><ci id="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.3.3.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply><apply id="A2.E51Xb.2.1.1.m1.9.9.3.5.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5"><times id="A2.E51Xb.2.1.1.m1.9.9.3.5.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.1"></times><apply id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2">superscript</csymbol><apply id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2"><csymbol cd="ambiguous" id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.1.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2">subscript</csymbol><ci id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.2.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.2">𝜇</ci><ci id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.3.cmml" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2.2.3">𝜃</ci></apply><cn id="A2.E51Xb.2.1.1.m1.9.9.3.5.2.3.cmml" type="integer" xref="A2.E51Xb.2.1.1.m1.9.9.3.5.2.3">2</cn></apply><ci id="A2.E51Xb.2.1.1.m1.6.6.cmml" xref="A2.E51Xb.2.1.1.m1.6.6">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51Xb.2.1.1.m1.9c">\displaystyle=\mathbb{E}[\mathbb{E}[Y_{1}Y_{2}|X]|[x]_{c}]-\mu_{\theta}(x)% \mathbb{E}[\mathbb{E}[Y_{1}|X]|[x]_{c}]-\mu_{\theta}(x)\mathbb{E}[\mathbb{E}[Y% _{2}|X]|[x]_{c}]+\mu_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E51Xb.2.1.1.m1.9d">= blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ] - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ] - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) blackboard_E [ blackboard_E [ italic_Y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ] + italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\mu_{\theta}\text{ is function of }[x]_{c}" class="ltx_Math" display="inline" id="A2.E51Xb.4.1.1.m1.1"><semantics id="A2.E51Xb.4.1.1.m1.1a"><mrow id="A2.E51Xb.4.1.1.m1.1.2" xref="A2.E51Xb.4.1.1.m1.1.2.cmml"><msub id="A2.E51Xb.4.1.1.m1.1.2.2" xref="A2.E51Xb.4.1.1.m1.1.2.2.cmml"><mi id="A2.E51Xb.4.1.1.m1.1.2.2.2" xref="A2.E51Xb.4.1.1.m1.1.2.2.2.cmml">μ</mi><mi id="A2.E51Xb.4.1.1.m1.1.2.2.3" xref="A2.E51Xb.4.1.1.m1.1.2.2.3.cmml">θ</mi></msub><mo id="A2.E51Xb.4.1.1.m1.1.2.1" xref="A2.E51Xb.4.1.1.m1.1.2.1.cmml">⁢</mo><mtext id="A2.E51Xb.4.1.1.m1.1.2.3" xref="A2.E51Xb.4.1.1.m1.1.2.3a.cmml"> is function of </mtext><mo id="A2.E51Xb.4.1.1.m1.1.2.1a" xref="A2.E51Xb.4.1.1.m1.1.2.1.cmml">⁢</mo><msub id="A2.E51Xb.4.1.1.m1.1.2.4" xref="A2.E51Xb.4.1.1.m1.1.2.4.cmml"><mrow id="A2.E51Xb.4.1.1.m1.1.2.4.2.2" xref="A2.E51Xb.4.1.1.m1.1.2.4.2.1.cmml"><mo id="A2.E51Xb.4.1.1.m1.1.2.4.2.2.1" stretchy="false" xref="A2.E51Xb.4.1.1.m1.1.2.4.2.1.1.cmml">[</mo><mi id="A2.E51Xb.4.1.1.m1.1.1" xref="A2.E51Xb.4.1.1.m1.1.1.cmml">x</mi><mo id="A2.E51Xb.4.1.1.m1.1.2.4.2.2.2" stretchy="false" xref="A2.E51Xb.4.1.1.m1.1.2.4.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xb.4.1.1.m1.1.2.4.3" xref="A2.E51Xb.4.1.1.m1.1.2.4.3.cmml">c</mi></msub></mrow><annotation-xml encoding="MathML-Content" id="A2.E51Xb.4.1.1.m1.1b"><apply id="A2.E51Xb.4.1.1.m1.1.2.cmml" xref="A2.E51Xb.4.1.1.m1.1.2"><times id="A2.E51Xb.4.1.1.m1.1.2.1.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.1"></times><apply id="A2.E51Xb.4.1.1.m1.1.2.2.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.2"><csymbol cd="ambiguous" id="A2.E51Xb.4.1.1.m1.1.2.2.1.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.2">subscript</csymbol><ci id="A2.E51Xb.4.1.1.m1.1.2.2.2.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.2.2">𝜇</ci><ci id="A2.E51Xb.4.1.1.m1.1.2.2.3.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.2.3">𝜃</ci></apply><ci id="A2.E51Xb.4.1.1.m1.1.2.3a.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.3"><mtext id="A2.E51Xb.4.1.1.m1.1.2.3.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.3"> is function of </mtext></ci><apply id="A2.E51Xb.4.1.1.m1.1.2.4.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.4"><csymbol cd="ambiguous" id="A2.E51Xb.4.1.1.m1.1.2.4.1.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.4">subscript</csymbol><apply id="A2.E51Xb.4.1.1.m1.1.2.4.2.1.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.4.2.2"><csymbol cd="latexml" id="A2.E51Xb.4.1.1.m1.1.2.4.2.1.1.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.4.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xb.4.1.1.m1.1.1.cmml" xref="A2.E51Xb.4.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E51Xb.4.1.1.m1.1.2.4.3.cmml" xref="A2.E51Xb.4.1.1.m1.1.2.4.3">𝑐</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51Xb.4.1.1.m1.1c">\displaystyle\mu_{\theta}\text{ is function of }[x]_{c}</annotation><annotation encoding="application/x-llamapun" id="A2.E51Xb.4.1.1.m1.1d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT is function of [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E51Xc"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y|X]|[x]_{c}]-\mu_{\theta}^{2}(x)" class="ltx_Math" display="inline" id="A2.E51Xc.2.1.1.m1.3"><semantics id="A2.E51Xc.2.1.1.m1.3a"><mrow id="A2.E51Xc.2.1.1.m1.3.3" xref="A2.E51Xc.2.1.1.m1.3.3.cmml"><mi id="A2.E51Xc.2.1.1.m1.3.3.3" xref="A2.E51Xc.2.1.1.m1.3.3.3.cmml"></mi><mo id="A2.E51Xc.2.1.1.m1.3.3.2" xref="A2.E51Xc.2.1.1.m1.3.3.2.cmml">=</mo><mrow id="A2.E51Xc.2.1.1.m1.3.3.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.cmml"><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.cmml"><mi id="A2.E51Xc.2.1.1.m1.3.3.1.1.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><msup id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml"><mi id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.cmml"><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xc.2.1.1.m1.1.1" xref="A2.E51Xc.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E51Xc.2.1.1.m1.3.3.1.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.2.cmml">−</mo><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.cmml"><msubsup id="A2.E51Xc.2.1.1.m1.3.3.1.3.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2.cmml"><mi id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.2.cmml">μ</mi><mi id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.3.cmml">θ</mi><mn id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.3" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2.3.cmml">2</mn></msubsup><mo id="A2.E51Xc.2.1.1.m1.3.3.1.3.1" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.1.cmml">⁢</mo><mrow id="A2.E51Xc.2.1.1.m1.3.3.1.3.3.2" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.cmml"><mo id="A2.E51Xc.2.1.1.m1.3.3.1.3.3.2.1" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.cmml">(</mo><mi id="A2.E51Xc.2.1.1.m1.2.2" xref="A2.E51Xc.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E51Xc.2.1.1.m1.3.3.1.3.3.2.2" stretchy="false" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.cmml">)</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E51Xc.2.1.1.m1.3b"><apply id="A2.E51Xc.2.1.1.m1.3.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3"><eq id="A2.E51Xc.2.1.1.m1.3.3.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.2"></eq><csymbol cd="latexml" id="A2.E51Xc.2.1.1.m1.3.3.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.3">absent</csymbol><apply id="A2.E51Xc.2.1.1.m1.3.3.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1"><minus id="A2.E51Xc.2.1.1.m1.3.3.1.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.2"></minus><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1"><times id="A2.E51Xc.2.1.1.m1.3.3.1.1.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.2"></times><ci id="A2.E51Xc.2.1.1.m1.3.3.1.1.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3">superscript</csymbol><ci id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.2">𝔼</ci><cn id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.3.3">2</cn></apply><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xc.2.1.1.m1.1.1.cmml" xref="A2.E51Xc.2.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply><apply id="A2.E51Xc.2.1.1.m1.3.3.1.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3"><times id="A2.E51Xc.2.1.1.m1.3.3.1.3.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.1"></times><apply id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2"><csymbol cd="ambiguous" id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2">superscript</csymbol><apply id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2"><csymbol cd="ambiguous" id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.1.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2">subscript</csymbol><ci id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.2.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.2">𝜇</ci><ci id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.3.cmml" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2.2.3">𝜃</ci></apply><cn id="A2.E51Xc.2.1.1.m1.3.3.1.3.2.3.cmml" type="integer" xref="A2.E51Xc.2.1.1.m1.3.3.1.3.2.3">2</cn></apply><ci id="A2.E51Xc.2.1.1.m1.2.2.cmml" xref="A2.E51Xc.2.1.1.m1.2.2">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51Xc.2.1.1.m1.3c">\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y|X]|[x]_{c}]-\mu_{\theta}^{2}(x)</annotation><annotation encoding="application/x-llamapun" id="A2.E51Xc.2.1.1.m1.3d">= blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ] - italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT ( italic_x )</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E51Xc.4.1.1.1">Eq. (</span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#A1.E30" title="Equation 30 ‣ Proof of Theorem 2.5. ‣ Appendix A Proofs of the theorems ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">30</span></a><span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E51Xc.4.1.1.2">) and Lemma </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#A2.Thmtheorem4" title="Lemma B.4. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">B.4</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E51Xd"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y|X]|[x]_{c}]-\mathbb{E}^{2}[\mathbb{E% }[Y|X]|[x]_{c}]" class="ltx_Math" display="inline" id="A2.E51Xd.2.1.1.m1.4"><semantics id="A2.E51Xd.2.1.1.m1.4a"><mrow id="A2.E51Xd.2.1.1.m1.4.4" xref="A2.E51Xd.2.1.1.m1.4.4.cmml"><mi id="A2.E51Xd.2.1.1.m1.4.4.4" xref="A2.E51Xd.2.1.1.m1.4.4.4.cmml"></mi><mo id="A2.E51Xd.2.1.1.m1.4.4.3" xref="A2.E51Xd.2.1.1.m1.4.4.3.cmml">=</mo><mrow id="A2.E51Xd.2.1.1.m1.4.4.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.cmml"><mrow id="A2.E51Xd.2.1.1.m1.3.3.1.1" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.cmml"><mi id="A2.E51Xd.2.1.1.m1.3.3.1.1.3" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.2" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.2.cmml"><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.2" stretchy="false" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.cmml"><mrow id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.cmml"><msup id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml"><mi id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.2" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml">𝔼</mi><mn id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.3" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml">2</mn></msup><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml"><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.2" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.2.cmml">|</mo><msub id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.cmml"><mrow id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.2" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml"><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xd.2.1.1.m1.1.1" xref="A2.E51Xd.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.3" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.3" stretchy="false" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo id="A2.E51Xd.2.1.1.m1.4.4.2.3" xref="A2.E51Xd.2.1.1.m1.4.4.2.3.cmml">−</mo><mrow id="A2.E51Xd.2.1.1.m1.4.4.2.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.cmml"><msup id="A2.E51Xd.2.1.1.m1.4.4.2.2.3" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.3.cmml"><mi id="A2.E51Xd.2.1.1.m1.4.4.2.2.3.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.3.2.cmml">𝔼</mi><mn id="A2.E51Xd.2.1.1.m1.4.4.2.2.3.3" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.3.3.cmml">2</mn></msup><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.2.cmml">⁢</mo><mrow id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.2.cmml"><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.2" stretchy="false" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.2.1.cmml">[</mo><mrow id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.cmml"><mrow id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.cmml"><mi id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml"><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml"><mi id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.2.cmml">|</mo><msub id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.cmml"><mrow id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.2" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.cmml"><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xd.2.1.1.m1.2.2" xref="A2.E51Xd.2.1.1.m1.2.2.cmml">x</mi><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.3" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.3" stretchy="false" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.2.1.cmml">]</mo></mrow></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E51Xd.2.1.1.m1.4b"><apply id="A2.E51Xd.2.1.1.m1.4.4.cmml" xref="A2.E51Xd.2.1.1.m1.4.4"><eq id="A2.E51Xd.2.1.1.m1.4.4.3.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.3"></eq><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.4.4.4.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.4">absent</csymbol><apply id="A2.E51Xd.2.1.1.m1.4.4.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2"><minus id="A2.E51Xd.2.1.1.m1.4.4.2.3.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.3"></minus><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1"><times id="A2.E51Xd.2.1.1.m1.3.3.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.2"></times><ci id="A2.E51Xd.2.1.1.m1.3.3.1.1.3.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.3">𝔼</ci><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.2.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.2">conditional</csymbol><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1"><times id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.2"></times><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3">superscript</csymbol><ci id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.2.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.2">𝔼</ci><cn id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.3.cmml" type="integer" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.3.3">2</cn></apply><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3">subscript</csymbol><apply id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xd.2.1.1.m1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.3.cmml" xref="A2.E51Xd.2.1.1.m1.3.3.1.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2"><times id="A2.E51Xd.2.1.1.m1.4.4.2.2.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.2"></times><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.3.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.3"><csymbol cd="ambiguous" id="A2.E51Xd.2.1.1.m1.4.4.2.2.3.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.3">superscript</csymbol><ci id="A2.E51Xd.2.1.1.m1.4.4.2.2.3.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.3.2">𝔼</ci><cn id="A2.E51Xd.2.1.1.m1.4.4.2.2.3.3.cmml" type="integer" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.3.3">2</cn></apply><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.2.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.2">conditional</csymbol><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1"><times id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.2"></times><ci id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.3">𝔼</ci><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.2.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3">subscript</csymbol><apply id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.1.1.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xd.2.1.1.m1.2.2.cmml" xref="A2.E51Xd.2.1.1.m1.2.2">𝑥</ci></apply><ci id="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.3.cmml" xref="A2.E51Xd.2.1.1.m1.4.4.2.2.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51Xd.2.1.1.m1.4c">\displaystyle=\mathbb{E}[\mathbb{E}^{2}[Y|X]|[x]_{c}]-\mathbb{E}^{2}[\mathbb{E% }[Y|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E51Xd.2.1.1.m1.4d">= blackboard_E [ blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ] - blackboard_E start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"> <span class="ltx_text ltx_markedasmath ltx_font_italic" id="A2.E51Xd.4.1.1.1">Lemma </span><a class="ltx_ref ltx_markedasmath" href="https://arxiv.org/html/2503.13317v1#A2.Thmtheorem4" title="Lemma B.4. ‣ Appendix B Variance calibration and distribution calibration ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">B.4</span></a> </td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> <tr class="ltx_equation ltx_eqn_row ltx_align_baseline" id="A2.E51Xe"> <td class="ltx_eqn_cell ltx_eqn_center_padleft"></td> <td class="ltx_td ltx_eqn_cell"></td> <td class="ltx_td ltx_align_left ltx_eqn_cell"><math alttext="\displaystyle=\mathbb{V}[\mathbb{E}[Y|X]|[x]_{c}]" class="ltx_Math" display="inline" id="A2.E51Xe.2.1.1.m1.2"><semantics id="A2.E51Xe.2.1.1.m1.2a"><mrow id="A2.E51Xe.2.1.1.m1.2.2" xref="A2.E51Xe.2.1.1.m1.2.2.cmml"><mi id="A2.E51Xe.2.1.1.m1.2.2.3" xref="A2.E51Xe.2.1.1.m1.2.2.3.cmml"></mi><mo id="A2.E51Xe.2.1.1.m1.2.2.2" xref="A2.E51Xe.2.1.1.m1.2.2.2.cmml">=</mo><mrow id="A2.E51Xe.2.1.1.m1.2.2.1" xref="A2.E51Xe.2.1.1.m1.2.2.1.cmml"><mi id="A2.E51Xe.2.1.1.m1.2.2.1.3" xref="A2.E51Xe.2.1.1.m1.2.2.1.3.cmml">𝕍</mi><mo id="A2.E51Xe.2.1.1.m1.2.2.1.2" xref="A2.E51Xe.2.1.1.m1.2.2.1.2.cmml">⁢</mo><mrow id="A2.E51Xe.2.1.1.m1.2.2.1.1.1" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.2.cmml"><mo id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.2" stretchy="false" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.cmml"><mrow id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.cmml"><mi id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.3" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.3.cmml">𝔼</mi><mo id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.2" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.2.cmml">⁢</mo><mrow id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml"><mo id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.2" stretchy="false" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">[</mo><mrow id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml"><mi id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml">Y</mi><mo fence="false" id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml">|</mo><mi id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml">X</mi></mrow><mo id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.3" stretchy="false" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml">]</mo></mrow></mrow><mo fence="false" id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.2" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.2.cmml">|</mo><msub id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.cmml"><mrow id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.2" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.1.cmml"><mo id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.2.1" stretchy="false" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.1.1.cmml">[</mo><mi id="A2.E51Xe.2.1.1.m1.1.1" xref="A2.E51Xe.2.1.1.m1.1.1.cmml">x</mi><mo id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.2.2" stretchy="false" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.1.1.cmml">]</mo></mrow><mi id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.3" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.3.cmml">c</mi></msub></mrow><mo id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.3" stretchy="false" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.2.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A2.E51Xe.2.1.1.m1.2b"><apply id="A2.E51Xe.2.1.1.m1.2.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2"><eq id="A2.E51Xe.2.1.1.m1.2.2.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.2"></eq><csymbol cd="latexml" id="A2.E51Xe.2.1.1.m1.2.2.3.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.3">absent</csymbol><apply id="A2.E51Xe.2.1.1.m1.2.2.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1"><times id="A2.E51Xe.2.1.1.m1.2.2.1.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.2"></times><ci id="A2.E51Xe.2.1.1.m1.2.2.1.3.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.3">𝕍</ci><apply id="A2.E51Xe.2.1.1.m1.2.2.1.1.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1"><csymbol cd="latexml" id="A2.E51Xe.2.1.1.m1.2.2.1.1.2.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.2">conditional</csymbol><apply id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1"><times id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.2"></times><ci id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.3.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.3">𝔼</ci><apply id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.2.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.2">delimited-[]</csymbol><apply id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1"><csymbol cd="latexml" id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.1">conditional</csymbol><ci id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.2">𝑌</ci><ci id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.1.1.1.1.3">𝑋</ci></apply></apply></apply><apply id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3"><csymbol cd="ambiguous" id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3">subscript</csymbol><apply id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.2"><csymbol cd="latexml" id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.1.1.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.2.2.1">delimited-[]</csymbol><ci id="A2.E51Xe.2.1.1.m1.1.1.cmml" xref="A2.E51Xe.2.1.1.m1.1.1">𝑥</ci></apply><ci id="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.3.cmml" xref="A2.E51Xe.2.1.1.m1.2.2.1.1.1.1.3.3">𝑐</ci></apply></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51Xe.2.1.1.m1.2c">\displaystyle=\mathbb{V}[\mathbb{E}[Y|X]|[x]_{c}]</annotation><annotation encoding="application/x-llamapun" id="A2.E51Xe.2.1.1.m1.2d">= blackboard_V [ blackboard_E [ italic_Y | italic_X ] | [ italic_x ] start_POSTSUBSCRIPT italic_c end_POSTSUBSCRIPT ]</annotation></semantics></math></td> <td class="ltx_td ltx_align_right ltx_eqn_cell"><math alttext="\displaystyle\text{Def. of }\mathbb{V}" class="ltx_Math" display="inline" id="A2.E51Xe.4.1.1.m1.1"><semantics id="A2.E51Xe.4.1.1.m1.1a"><mrow id="A2.E51Xe.4.1.1.m1.1.1" xref="A2.E51Xe.4.1.1.m1.1.1.cmml"><mtext id="A2.E51Xe.4.1.1.m1.1.1.2" xref="A2.E51Xe.4.1.1.m1.1.1.2a.cmml">Def. of </mtext><mo id="A2.E51Xe.4.1.1.m1.1.1.1" xref="A2.E51Xe.4.1.1.m1.1.1.1.cmml">⁢</mo><mi id="A2.E51Xe.4.1.1.m1.1.1.3" xref="A2.E51Xe.4.1.1.m1.1.1.3.cmml">𝕍</mi></mrow><annotation-xml encoding="MathML-Content" id="A2.E51Xe.4.1.1.m1.1b"><apply id="A2.E51Xe.4.1.1.m1.1.1.cmml" xref="A2.E51Xe.4.1.1.m1.1.1"><times id="A2.E51Xe.4.1.1.m1.1.1.1.cmml" xref="A2.E51Xe.4.1.1.m1.1.1.1"></times><ci id="A2.E51Xe.4.1.1.m1.1.1.2a.cmml" xref="A2.E51Xe.4.1.1.m1.1.1.2"><mtext id="A2.E51Xe.4.1.1.m1.1.1.2.cmml" xref="A2.E51Xe.4.1.1.m1.1.1.2">Def. of </mtext></ci><ci id="A2.E51Xe.4.1.1.m1.1.1.3.cmml" xref="A2.E51Xe.4.1.1.m1.1.1.3">𝕍</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A2.E51Xe.4.1.1.m1.1c">\displaystyle\text{Def. of }\mathbb{V}</annotation><annotation encoding="application/x-llamapun" id="A2.E51Xe.4.1.1.m1.1d">Def. of blackboard_V</annotation></semantics></math></td> <td class="ltx_eqn_cell ltx_eqn_center_padright"></td> </tr> </tbody> </table> <p class="ltx_p" id="A2.3.p1.1">∎</p> </div> </div> <div class="ltx_para" id="A2.p6"> <p class="ltx_p" id="A2.p6.1">This shows that the main theorems of the paper, namely Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem2" title="Theorem 2.2. ‣ 2.2 Calibration ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.2</span></a> and Thm. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#S2.Thmtheorem5" title="Theorem 2.5. ‣ 2.3 Epistemic Uncertainty ‣ 2 Methodology ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2.5</span></a>, still hold when using a weaker notion of calibration, namely variance (or covariance) calibration</p> </div> </section> <section class="ltx_appendix" id="A3"> <h2 class="ltx_title ltx_title_appendix"> <span class="ltx_tag ltx_tag_appendix">Appendix C </span>Outline of the necessary model modifications</h2> <div class="ltx_para" id="A3.p1"> <p class="ltx_p" id="A3.p1.11">The model presented in this paper must be able to predict two outputs for every input, which must be potentially correlated. This rules out the possibility to just train two different models. In principle, it is possible to construct a model <math alttext="p_{\theta}(y_{1},y_{2}|x)=\mathcal{N}(\mu_{\theta}(x),\Sigma_{\theta}(x))" class="ltx_Math" display="inline" id="A3.p1.1.m1.6"><semantics id="A3.p1.1.m1.6a"><mrow id="A3.p1.1.m1.6.6" xref="A3.p1.1.m1.6.6.cmml"><mrow id="A3.p1.1.m1.4.4.2" xref="A3.p1.1.m1.4.4.2.cmml"><msub id="A3.p1.1.m1.4.4.2.4" xref="A3.p1.1.m1.4.4.2.4.cmml"><mi id="A3.p1.1.m1.4.4.2.4.2" xref="A3.p1.1.m1.4.4.2.4.2.cmml">p</mi><mi id="A3.p1.1.m1.4.4.2.4.3" xref="A3.p1.1.m1.4.4.2.4.3.cmml">θ</mi></msub><mo id="A3.p1.1.m1.4.4.2.3" xref="A3.p1.1.m1.4.4.2.3.cmml">⁢</mo><mrow id="A3.p1.1.m1.4.4.2.2.2" xref="A3.p1.1.m1.4.4.2.2.3.cmml"><mo id="A3.p1.1.m1.4.4.2.2.2.3" stretchy="false" xref="A3.p1.1.m1.4.4.2.2.3.cmml">(</mo><msub id="A3.p1.1.m1.3.3.1.1.1.1" xref="A3.p1.1.m1.3.3.1.1.1.1.cmml"><mi id="A3.p1.1.m1.3.3.1.1.1.1.2" xref="A3.p1.1.m1.3.3.1.1.1.1.2.cmml">y</mi><mn id="A3.p1.1.m1.3.3.1.1.1.1.3" xref="A3.p1.1.m1.3.3.1.1.1.1.3.cmml">1</mn></msub><mo id="A3.p1.1.m1.4.4.2.2.2.4" xref="A3.p1.1.m1.4.4.2.2.3.cmml">,</mo><mrow id="A3.p1.1.m1.4.4.2.2.2.2" xref="A3.p1.1.m1.4.4.2.2.2.2.cmml"><msub id="A3.p1.1.m1.4.4.2.2.2.2.2" xref="A3.p1.1.m1.4.4.2.2.2.2.2.cmml"><mi id="A3.p1.1.m1.4.4.2.2.2.2.2.2" xref="A3.p1.1.m1.4.4.2.2.2.2.2.2.cmml">y</mi><mn id="A3.p1.1.m1.4.4.2.2.2.2.2.3" xref="A3.p1.1.m1.4.4.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A3.p1.1.m1.4.4.2.2.2.2.1" xref="A3.p1.1.m1.4.4.2.2.2.2.1.cmml">|</mo><mi id="A3.p1.1.m1.4.4.2.2.2.2.3" xref="A3.p1.1.m1.4.4.2.2.2.2.3.cmml">x</mi></mrow><mo id="A3.p1.1.m1.4.4.2.2.2.5" stretchy="false" xref="A3.p1.1.m1.4.4.2.2.3.cmml">)</mo></mrow></mrow><mo id="A3.p1.1.m1.6.6.5" xref="A3.p1.1.m1.6.6.5.cmml">=</mo><mrow id="A3.p1.1.m1.6.6.4" xref="A3.p1.1.m1.6.6.4.cmml"><mi class="ltx_font_mathcaligraphic" id="A3.p1.1.m1.6.6.4.4" xref="A3.p1.1.m1.6.6.4.4.cmml">𝒩</mi><mo id="A3.p1.1.m1.6.6.4.3" xref="A3.p1.1.m1.6.6.4.3.cmml">⁢</mo><mrow id="A3.p1.1.m1.6.6.4.2.2" xref="A3.p1.1.m1.6.6.4.2.3.cmml"><mo id="A3.p1.1.m1.6.6.4.2.2.3" stretchy="false" xref="A3.p1.1.m1.6.6.4.2.3.cmml">(</mo><mrow id="A3.p1.1.m1.5.5.3.1.1.1" xref="A3.p1.1.m1.5.5.3.1.1.1.cmml"><msub id="A3.p1.1.m1.5.5.3.1.1.1.2" xref="A3.p1.1.m1.5.5.3.1.1.1.2.cmml"><mi id="A3.p1.1.m1.5.5.3.1.1.1.2.2" xref="A3.p1.1.m1.5.5.3.1.1.1.2.2.cmml">μ</mi><mi id="A3.p1.1.m1.5.5.3.1.1.1.2.3" xref="A3.p1.1.m1.5.5.3.1.1.1.2.3.cmml">θ</mi></msub><mo id="A3.p1.1.m1.5.5.3.1.1.1.1" xref="A3.p1.1.m1.5.5.3.1.1.1.1.cmml">⁢</mo><mrow id="A3.p1.1.m1.5.5.3.1.1.1.3.2" xref="A3.p1.1.m1.5.5.3.1.1.1.cmml"><mo id="A3.p1.1.m1.5.5.3.1.1.1.3.2.1" stretchy="false" xref="A3.p1.1.m1.5.5.3.1.1.1.cmml">(</mo><mi id="A3.p1.1.m1.1.1" xref="A3.p1.1.m1.1.1.cmml">x</mi><mo id="A3.p1.1.m1.5.5.3.1.1.1.3.2.2" stretchy="false" xref="A3.p1.1.m1.5.5.3.1.1.1.cmml">)</mo></mrow></mrow><mo id="A3.p1.1.m1.6.6.4.2.2.4" xref="A3.p1.1.m1.6.6.4.2.3.cmml">,</mo><mrow id="A3.p1.1.m1.6.6.4.2.2.2" xref="A3.p1.1.m1.6.6.4.2.2.2.cmml"><msub id="A3.p1.1.m1.6.6.4.2.2.2.2" xref="A3.p1.1.m1.6.6.4.2.2.2.2.cmml"><mi id="A3.p1.1.m1.6.6.4.2.2.2.2.2" mathvariant="normal" xref="A3.p1.1.m1.6.6.4.2.2.2.2.2.cmml">Σ</mi><mi id="A3.p1.1.m1.6.6.4.2.2.2.2.3" xref="A3.p1.1.m1.6.6.4.2.2.2.2.3.cmml">θ</mi></msub><mo id="A3.p1.1.m1.6.6.4.2.2.2.1" xref="A3.p1.1.m1.6.6.4.2.2.2.1.cmml">⁢</mo><mrow id="A3.p1.1.m1.6.6.4.2.2.2.3.2" xref="A3.p1.1.m1.6.6.4.2.2.2.cmml"><mo id="A3.p1.1.m1.6.6.4.2.2.2.3.2.1" stretchy="false" xref="A3.p1.1.m1.6.6.4.2.2.2.cmml">(</mo><mi id="A3.p1.1.m1.2.2" xref="A3.p1.1.m1.2.2.cmml">x</mi><mo id="A3.p1.1.m1.6.6.4.2.2.2.3.2.2" stretchy="false" xref="A3.p1.1.m1.6.6.4.2.2.2.cmml">)</mo></mrow></mrow><mo id="A3.p1.1.m1.6.6.4.2.2.5" stretchy="false" xref="A3.p1.1.m1.6.6.4.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.1.m1.6b"><apply id="A3.p1.1.m1.6.6.cmml" xref="A3.p1.1.m1.6.6"><eq id="A3.p1.1.m1.6.6.5.cmml" xref="A3.p1.1.m1.6.6.5"></eq><apply id="A3.p1.1.m1.4.4.2.cmml" xref="A3.p1.1.m1.4.4.2"><times id="A3.p1.1.m1.4.4.2.3.cmml" xref="A3.p1.1.m1.4.4.2.3"></times><apply id="A3.p1.1.m1.4.4.2.4.cmml" xref="A3.p1.1.m1.4.4.2.4"><csymbol cd="ambiguous" id="A3.p1.1.m1.4.4.2.4.1.cmml" xref="A3.p1.1.m1.4.4.2.4">subscript</csymbol><ci id="A3.p1.1.m1.4.4.2.4.2.cmml" xref="A3.p1.1.m1.4.4.2.4.2">𝑝</ci><ci id="A3.p1.1.m1.4.4.2.4.3.cmml" xref="A3.p1.1.m1.4.4.2.4.3">𝜃</ci></apply><interval closure="open" id="A3.p1.1.m1.4.4.2.2.3.cmml" xref="A3.p1.1.m1.4.4.2.2.2"><apply id="A3.p1.1.m1.3.3.1.1.1.1.cmml" xref="A3.p1.1.m1.3.3.1.1.1.1"><csymbol cd="ambiguous" id="A3.p1.1.m1.3.3.1.1.1.1.1.cmml" xref="A3.p1.1.m1.3.3.1.1.1.1">subscript</csymbol><ci id="A3.p1.1.m1.3.3.1.1.1.1.2.cmml" xref="A3.p1.1.m1.3.3.1.1.1.1.2">𝑦</ci><cn id="A3.p1.1.m1.3.3.1.1.1.1.3.cmml" type="integer" xref="A3.p1.1.m1.3.3.1.1.1.1.3">1</cn></apply><apply id="A3.p1.1.m1.4.4.2.2.2.2.cmml" xref="A3.p1.1.m1.4.4.2.2.2.2"><csymbol cd="latexml" id="A3.p1.1.m1.4.4.2.2.2.2.1.cmml" xref="A3.p1.1.m1.4.4.2.2.2.2.1">conditional</csymbol><apply id="A3.p1.1.m1.4.4.2.2.2.2.2.cmml" xref="A3.p1.1.m1.4.4.2.2.2.2.2"><csymbol cd="ambiguous" id="A3.p1.1.m1.4.4.2.2.2.2.2.1.cmml" xref="A3.p1.1.m1.4.4.2.2.2.2.2">subscript</csymbol><ci id="A3.p1.1.m1.4.4.2.2.2.2.2.2.cmml" xref="A3.p1.1.m1.4.4.2.2.2.2.2.2">𝑦</ci><cn id="A3.p1.1.m1.4.4.2.2.2.2.2.3.cmml" type="integer" xref="A3.p1.1.m1.4.4.2.2.2.2.2.3">2</cn></apply><ci id="A3.p1.1.m1.4.4.2.2.2.2.3.cmml" xref="A3.p1.1.m1.4.4.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="A3.p1.1.m1.6.6.4.cmml" xref="A3.p1.1.m1.6.6.4"><times id="A3.p1.1.m1.6.6.4.3.cmml" xref="A3.p1.1.m1.6.6.4.3"></times><ci id="A3.p1.1.m1.6.6.4.4.cmml" xref="A3.p1.1.m1.6.6.4.4">𝒩</ci><interval closure="open" id="A3.p1.1.m1.6.6.4.2.3.cmml" xref="A3.p1.1.m1.6.6.4.2.2"><apply id="A3.p1.1.m1.5.5.3.1.1.1.cmml" xref="A3.p1.1.m1.5.5.3.1.1.1"><times id="A3.p1.1.m1.5.5.3.1.1.1.1.cmml" xref="A3.p1.1.m1.5.5.3.1.1.1.1"></times><apply id="A3.p1.1.m1.5.5.3.1.1.1.2.cmml" xref="A3.p1.1.m1.5.5.3.1.1.1.2"><csymbol cd="ambiguous" id="A3.p1.1.m1.5.5.3.1.1.1.2.1.cmml" xref="A3.p1.1.m1.5.5.3.1.1.1.2">subscript</csymbol><ci id="A3.p1.1.m1.5.5.3.1.1.1.2.2.cmml" xref="A3.p1.1.m1.5.5.3.1.1.1.2.2">𝜇</ci><ci id="A3.p1.1.m1.5.5.3.1.1.1.2.3.cmml" xref="A3.p1.1.m1.5.5.3.1.1.1.2.3">𝜃</ci></apply><ci id="A3.p1.1.m1.1.1.cmml" xref="A3.p1.1.m1.1.1">𝑥</ci></apply><apply id="A3.p1.1.m1.6.6.4.2.2.2.cmml" xref="A3.p1.1.m1.6.6.4.2.2.2"><times id="A3.p1.1.m1.6.6.4.2.2.2.1.cmml" xref="A3.p1.1.m1.6.6.4.2.2.2.1"></times><apply id="A3.p1.1.m1.6.6.4.2.2.2.2.cmml" xref="A3.p1.1.m1.6.6.4.2.2.2.2"><csymbol cd="ambiguous" id="A3.p1.1.m1.6.6.4.2.2.2.2.1.cmml" xref="A3.p1.1.m1.6.6.4.2.2.2.2">subscript</csymbol><ci id="A3.p1.1.m1.6.6.4.2.2.2.2.2.cmml" xref="A3.p1.1.m1.6.6.4.2.2.2.2.2">Σ</ci><ci id="A3.p1.1.m1.6.6.4.2.2.2.2.3.cmml" xref="A3.p1.1.m1.6.6.4.2.2.2.2.3">𝜃</ci></apply><ci id="A3.p1.1.m1.2.2.cmml" xref="A3.p1.1.m1.2.2">𝑥</ci></apply></interval></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.1.m1.6c">p_{\theta}(y_{1},y_{2}|x)=\mathcal{N}(\mu_{\theta}(x),\Sigma_{\theta}(x))</annotation><annotation encoding="application/x-llamapun" id="A3.p1.1.m1.6d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) = caligraphic_N ( italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) , roman_Σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) )</annotation></semantics></math>, where <math alttext="\mu_{\theta}\in\mathbb{R}^{2}=[\mu_{\theta,1},\mu_{\theta,2}]^{\top}" class="ltx_Math" display="inline" id="A3.p1.2.m2.6"><semantics id="A3.p1.2.m2.6a"><mrow id="A3.p1.2.m2.6.6" xref="A3.p1.2.m2.6.6.cmml"><msub id="A3.p1.2.m2.6.6.4" xref="A3.p1.2.m2.6.6.4.cmml"><mi id="A3.p1.2.m2.6.6.4.2" xref="A3.p1.2.m2.6.6.4.2.cmml">μ</mi><mi id="A3.p1.2.m2.6.6.4.3" xref="A3.p1.2.m2.6.6.4.3.cmml">θ</mi></msub><mo id="A3.p1.2.m2.6.6.5" xref="A3.p1.2.m2.6.6.5.cmml">∈</mo><msup id="A3.p1.2.m2.6.6.6" xref="A3.p1.2.m2.6.6.6.cmml"><mi id="A3.p1.2.m2.6.6.6.2" xref="A3.p1.2.m2.6.6.6.2.cmml">ℝ</mi><mn id="A3.p1.2.m2.6.6.6.3" xref="A3.p1.2.m2.6.6.6.3.cmml">2</mn></msup><mo id="A3.p1.2.m2.6.6.7" xref="A3.p1.2.m2.6.6.7.cmml">=</mo><msup id="A3.p1.2.m2.6.6.2" xref="A3.p1.2.m2.6.6.2.cmml"><mrow id="A3.p1.2.m2.6.6.2.2.2" xref="A3.p1.2.m2.6.6.2.2.3.cmml"><mo id="A3.p1.2.m2.6.6.2.2.2.3" stretchy="false" xref="A3.p1.2.m2.6.6.2.2.3.cmml">[</mo><msub id="A3.p1.2.m2.5.5.1.1.1.1" xref="A3.p1.2.m2.5.5.1.1.1.1.cmml"><mi id="A3.p1.2.m2.5.5.1.1.1.1.2" xref="A3.p1.2.m2.5.5.1.1.1.1.2.cmml">μ</mi><mrow id="A3.p1.2.m2.2.2.2.4" xref="A3.p1.2.m2.2.2.2.3.cmml"><mi id="A3.p1.2.m2.1.1.1.1" xref="A3.p1.2.m2.1.1.1.1.cmml">θ</mi><mo id="A3.p1.2.m2.2.2.2.4.1" xref="A3.p1.2.m2.2.2.2.3.cmml">,</mo><mn id="A3.p1.2.m2.2.2.2.2" xref="A3.p1.2.m2.2.2.2.2.cmml">1</mn></mrow></msub><mo id="A3.p1.2.m2.6.6.2.2.2.4" xref="A3.p1.2.m2.6.6.2.2.3.cmml">,</mo><msub id="A3.p1.2.m2.6.6.2.2.2.2" xref="A3.p1.2.m2.6.6.2.2.2.2.cmml"><mi id="A3.p1.2.m2.6.6.2.2.2.2.2" xref="A3.p1.2.m2.6.6.2.2.2.2.2.cmml">μ</mi><mrow id="A3.p1.2.m2.4.4.2.4" xref="A3.p1.2.m2.4.4.2.3.cmml"><mi id="A3.p1.2.m2.3.3.1.1" xref="A3.p1.2.m2.3.3.1.1.cmml">θ</mi><mo id="A3.p1.2.m2.4.4.2.4.1" xref="A3.p1.2.m2.4.4.2.3.cmml">,</mo><mn id="A3.p1.2.m2.4.4.2.2" xref="A3.p1.2.m2.4.4.2.2.cmml">2</mn></mrow></msub><mo id="A3.p1.2.m2.6.6.2.2.2.5" stretchy="false" xref="A3.p1.2.m2.6.6.2.2.3.cmml">]</mo></mrow><mo id="A3.p1.2.m2.6.6.2.4" xref="A3.p1.2.m2.6.6.2.4.cmml">⊤</mo></msup></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.2.m2.6b"><apply id="A3.p1.2.m2.6.6.cmml" xref="A3.p1.2.m2.6.6"><and id="A3.p1.2.m2.6.6a.cmml" xref="A3.p1.2.m2.6.6"></and><apply id="A3.p1.2.m2.6.6b.cmml" xref="A3.p1.2.m2.6.6"><in id="A3.p1.2.m2.6.6.5.cmml" xref="A3.p1.2.m2.6.6.5"></in><apply id="A3.p1.2.m2.6.6.4.cmml" xref="A3.p1.2.m2.6.6.4"><csymbol cd="ambiguous" id="A3.p1.2.m2.6.6.4.1.cmml" xref="A3.p1.2.m2.6.6.4">subscript</csymbol><ci id="A3.p1.2.m2.6.6.4.2.cmml" xref="A3.p1.2.m2.6.6.4.2">𝜇</ci><ci id="A3.p1.2.m2.6.6.4.3.cmml" xref="A3.p1.2.m2.6.6.4.3">𝜃</ci></apply><apply id="A3.p1.2.m2.6.6.6.cmml" xref="A3.p1.2.m2.6.6.6"><csymbol cd="ambiguous" id="A3.p1.2.m2.6.6.6.1.cmml" xref="A3.p1.2.m2.6.6.6">superscript</csymbol><ci id="A3.p1.2.m2.6.6.6.2.cmml" xref="A3.p1.2.m2.6.6.6.2">ℝ</ci><cn id="A3.p1.2.m2.6.6.6.3.cmml" type="integer" xref="A3.p1.2.m2.6.6.6.3">2</cn></apply></apply><apply id="A3.p1.2.m2.6.6c.cmml" xref="A3.p1.2.m2.6.6"><eq id="A3.p1.2.m2.6.6.7.cmml" xref="A3.p1.2.m2.6.6.7"></eq><share href="https://arxiv.org/html/2503.13317v1#A3.p1.2.m2.6.6.6.cmml" id="A3.p1.2.m2.6.6d.cmml" xref="A3.p1.2.m2.6.6"></share><apply id="A3.p1.2.m2.6.6.2.cmml" xref="A3.p1.2.m2.6.6.2"><csymbol cd="ambiguous" id="A3.p1.2.m2.6.6.2.3.cmml" xref="A3.p1.2.m2.6.6.2">superscript</csymbol><interval closure="closed" id="A3.p1.2.m2.6.6.2.2.3.cmml" xref="A3.p1.2.m2.6.6.2.2.2"><apply id="A3.p1.2.m2.5.5.1.1.1.1.cmml" xref="A3.p1.2.m2.5.5.1.1.1.1"><csymbol cd="ambiguous" id="A3.p1.2.m2.5.5.1.1.1.1.1.cmml" xref="A3.p1.2.m2.5.5.1.1.1.1">subscript</csymbol><ci id="A3.p1.2.m2.5.5.1.1.1.1.2.cmml" xref="A3.p1.2.m2.5.5.1.1.1.1.2">𝜇</ci><list id="A3.p1.2.m2.2.2.2.3.cmml" xref="A3.p1.2.m2.2.2.2.4"><ci id="A3.p1.2.m2.1.1.1.1.cmml" xref="A3.p1.2.m2.1.1.1.1">𝜃</ci><cn id="A3.p1.2.m2.2.2.2.2.cmml" type="integer" xref="A3.p1.2.m2.2.2.2.2">1</cn></list></apply><apply id="A3.p1.2.m2.6.6.2.2.2.2.cmml" xref="A3.p1.2.m2.6.6.2.2.2.2"><csymbol cd="ambiguous" id="A3.p1.2.m2.6.6.2.2.2.2.1.cmml" xref="A3.p1.2.m2.6.6.2.2.2.2">subscript</csymbol><ci id="A3.p1.2.m2.6.6.2.2.2.2.2.cmml" xref="A3.p1.2.m2.6.6.2.2.2.2.2">𝜇</ci><list id="A3.p1.2.m2.4.4.2.3.cmml" xref="A3.p1.2.m2.4.4.2.4"><ci id="A3.p1.2.m2.3.3.1.1.cmml" xref="A3.p1.2.m2.3.3.1.1">𝜃</ci><cn id="A3.p1.2.m2.4.4.2.2.cmml" type="integer" xref="A3.p1.2.m2.4.4.2.2">2</cn></list></apply></interval><csymbol cd="latexml" id="A3.p1.2.m2.6.6.2.4.cmml" xref="A3.p1.2.m2.6.6.2.4">top</csymbol></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.2.m2.6c">\mu_{\theta}\in\mathbb{R}^{2}=[\mu_{\theta,1},\mu_{\theta,2}]^{\top}</annotation><annotation encoding="application/x-llamapun" id="A3.p1.2.m2.6d">italic_μ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ∈ blackboard_R start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT = [ italic_μ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT , italic_μ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT ] start_POSTSUPERSCRIPT ⊤ end_POSTSUPERSCRIPT</annotation></semantics></math> and <math alttext="\Sigma_{\theta}(x)\in\mathbb{R}^{2,2}" class="ltx_Math" display="inline" id="A3.p1.3.m3.3"><semantics id="A3.p1.3.m3.3a"><mrow id="A3.p1.3.m3.3.4" xref="A3.p1.3.m3.3.4.cmml"><mrow id="A3.p1.3.m3.3.4.2" xref="A3.p1.3.m3.3.4.2.cmml"><msub id="A3.p1.3.m3.3.4.2.2" xref="A3.p1.3.m3.3.4.2.2.cmml"><mi id="A3.p1.3.m3.3.4.2.2.2" mathvariant="normal" xref="A3.p1.3.m3.3.4.2.2.2.cmml">Σ</mi><mi id="A3.p1.3.m3.3.4.2.2.3" xref="A3.p1.3.m3.3.4.2.2.3.cmml">θ</mi></msub><mo id="A3.p1.3.m3.3.4.2.1" xref="A3.p1.3.m3.3.4.2.1.cmml">⁢</mo><mrow id="A3.p1.3.m3.3.4.2.3.2" xref="A3.p1.3.m3.3.4.2.cmml"><mo id="A3.p1.3.m3.3.4.2.3.2.1" stretchy="false" xref="A3.p1.3.m3.3.4.2.cmml">(</mo><mi id="A3.p1.3.m3.3.3" xref="A3.p1.3.m3.3.3.cmml">x</mi><mo id="A3.p1.3.m3.3.4.2.3.2.2" stretchy="false" xref="A3.p1.3.m3.3.4.2.cmml">)</mo></mrow></mrow><mo id="A3.p1.3.m3.3.4.1" xref="A3.p1.3.m3.3.4.1.cmml">∈</mo><msup id="A3.p1.3.m3.3.4.3" xref="A3.p1.3.m3.3.4.3.cmml"><mi id="A3.p1.3.m3.3.4.3.2" xref="A3.p1.3.m3.3.4.3.2.cmml">ℝ</mi><mrow id="A3.p1.3.m3.2.2.2.4" xref="A3.p1.3.m3.2.2.2.3.cmml"><mn id="A3.p1.3.m3.1.1.1.1" xref="A3.p1.3.m3.1.1.1.1.cmml">2</mn><mo id="A3.p1.3.m3.2.2.2.4.1" xref="A3.p1.3.m3.2.2.2.3.cmml">,</mo><mn id="A3.p1.3.m3.2.2.2.2" xref="A3.p1.3.m3.2.2.2.2.cmml">2</mn></mrow></msup></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.3.m3.3b"><apply id="A3.p1.3.m3.3.4.cmml" xref="A3.p1.3.m3.3.4"><in id="A3.p1.3.m3.3.4.1.cmml" xref="A3.p1.3.m3.3.4.1"></in><apply id="A3.p1.3.m3.3.4.2.cmml" xref="A3.p1.3.m3.3.4.2"><times id="A3.p1.3.m3.3.4.2.1.cmml" xref="A3.p1.3.m3.3.4.2.1"></times><apply id="A3.p1.3.m3.3.4.2.2.cmml" xref="A3.p1.3.m3.3.4.2.2"><csymbol cd="ambiguous" id="A3.p1.3.m3.3.4.2.2.1.cmml" xref="A3.p1.3.m3.3.4.2.2">subscript</csymbol><ci id="A3.p1.3.m3.3.4.2.2.2.cmml" xref="A3.p1.3.m3.3.4.2.2.2">Σ</ci><ci id="A3.p1.3.m3.3.4.2.2.3.cmml" xref="A3.p1.3.m3.3.4.2.2.3">𝜃</ci></apply><ci id="A3.p1.3.m3.3.3.cmml" xref="A3.p1.3.m3.3.3">𝑥</ci></apply><apply id="A3.p1.3.m3.3.4.3.cmml" xref="A3.p1.3.m3.3.4.3"><csymbol cd="ambiguous" id="A3.p1.3.m3.3.4.3.1.cmml" xref="A3.p1.3.m3.3.4.3">superscript</csymbol><ci id="A3.p1.3.m3.3.4.3.2.cmml" xref="A3.p1.3.m3.3.4.3.2">ℝ</ci><list id="A3.p1.3.m3.2.2.2.3.cmml" xref="A3.p1.3.m3.2.2.2.4"><cn id="A3.p1.3.m3.1.1.1.1.cmml" type="integer" xref="A3.p1.3.m3.1.1.1.1">2</cn><cn id="A3.p1.3.m3.2.2.2.2.cmml" type="integer" xref="A3.p1.3.m3.2.2.2.2">2</cn></list></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.3.m3.3c">\Sigma_{\theta}(x)\in\mathbb{R}^{2,2}</annotation><annotation encoding="application/x-llamapun" id="A3.p1.3.m3.3d">roman_Σ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_x ) ∈ blackboard_R start_POSTSUPERSCRIPT 2 , 2 end_POSTSUPERSCRIPT</annotation></semantics></math> with <math alttext="\Sigma_{\theta,11}=\sigma_{\theta,1}^{2}" class="ltx_Math" display="inline" id="A3.p1.4.m4.4"><semantics id="A3.p1.4.m4.4a"><mrow id="A3.p1.4.m4.4.5" xref="A3.p1.4.m4.4.5.cmml"><msub id="A3.p1.4.m4.4.5.2" xref="A3.p1.4.m4.4.5.2.cmml"><mi id="A3.p1.4.m4.4.5.2.2" mathvariant="normal" xref="A3.p1.4.m4.4.5.2.2.cmml">Σ</mi><mrow id="A3.p1.4.m4.2.2.2.4" xref="A3.p1.4.m4.2.2.2.3.cmml"><mi id="A3.p1.4.m4.1.1.1.1" xref="A3.p1.4.m4.1.1.1.1.cmml">θ</mi><mo id="A3.p1.4.m4.2.2.2.4.1" xref="A3.p1.4.m4.2.2.2.3.cmml">,</mo><mn id="A3.p1.4.m4.2.2.2.2" xref="A3.p1.4.m4.2.2.2.2.cmml">11</mn></mrow></msub><mo id="A3.p1.4.m4.4.5.1" xref="A3.p1.4.m4.4.5.1.cmml">=</mo><msubsup id="A3.p1.4.m4.4.5.3" xref="A3.p1.4.m4.4.5.3.cmml"><mi id="A3.p1.4.m4.4.5.3.2.2" xref="A3.p1.4.m4.4.5.3.2.2.cmml">σ</mi><mrow id="A3.p1.4.m4.4.4.2.4" xref="A3.p1.4.m4.4.4.2.3.cmml"><mi id="A3.p1.4.m4.3.3.1.1" xref="A3.p1.4.m4.3.3.1.1.cmml">θ</mi><mo id="A3.p1.4.m4.4.4.2.4.1" xref="A3.p1.4.m4.4.4.2.3.cmml">,</mo><mn id="A3.p1.4.m4.4.4.2.2" xref="A3.p1.4.m4.4.4.2.2.cmml">1</mn></mrow><mn id="A3.p1.4.m4.4.5.3.3" xref="A3.p1.4.m4.4.5.3.3.cmml">2</mn></msubsup></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.4.m4.4b"><apply id="A3.p1.4.m4.4.5.cmml" xref="A3.p1.4.m4.4.5"><eq id="A3.p1.4.m4.4.5.1.cmml" xref="A3.p1.4.m4.4.5.1"></eq><apply id="A3.p1.4.m4.4.5.2.cmml" xref="A3.p1.4.m4.4.5.2"><csymbol cd="ambiguous" id="A3.p1.4.m4.4.5.2.1.cmml" xref="A3.p1.4.m4.4.5.2">subscript</csymbol><ci id="A3.p1.4.m4.4.5.2.2.cmml" xref="A3.p1.4.m4.4.5.2.2">Σ</ci><list id="A3.p1.4.m4.2.2.2.3.cmml" xref="A3.p1.4.m4.2.2.2.4"><ci id="A3.p1.4.m4.1.1.1.1.cmml" xref="A3.p1.4.m4.1.1.1.1">𝜃</ci><cn id="A3.p1.4.m4.2.2.2.2.cmml" type="integer" xref="A3.p1.4.m4.2.2.2.2">11</cn></list></apply><apply id="A3.p1.4.m4.4.5.3.cmml" xref="A3.p1.4.m4.4.5.3"><csymbol cd="ambiguous" id="A3.p1.4.m4.4.5.3.1.cmml" xref="A3.p1.4.m4.4.5.3">superscript</csymbol><apply id="A3.p1.4.m4.4.5.3.2.cmml" xref="A3.p1.4.m4.4.5.3"><csymbol cd="ambiguous" id="A3.p1.4.m4.4.5.3.2.1.cmml" xref="A3.p1.4.m4.4.5.3">subscript</csymbol><ci id="A3.p1.4.m4.4.5.3.2.2.cmml" xref="A3.p1.4.m4.4.5.3.2.2">𝜎</ci><list id="A3.p1.4.m4.4.4.2.3.cmml" xref="A3.p1.4.m4.4.4.2.4"><ci id="A3.p1.4.m4.3.3.1.1.cmml" xref="A3.p1.4.m4.3.3.1.1">𝜃</ci><cn id="A3.p1.4.m4.4.4.2.2.cmml" type="integer" xref="A3.p1.4.m4.4.4.2.2">1</cn></list></apply><cn id="A3.p1.4.m4.4.5.3.3.cmml" type="integer" xref="A3.p1.4.m4.4.5.3.3">2</cn></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.4.m4.4c">\Sigma_{\theta,11}=\sigma_{\theta,1}^{2}</annotation><annotation encoding="application/x-llamapun" id="A3.p1.4.m4.4d">roman_Σ start_POSTSUBSCRIPT italic_θ , 11 end_POSTSUBSCRIPT = italic_σ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math>, <math alttext="\Sigma_{\theta,22}=\sigma_{\theta,2}^{2}" class="ltx_Math" display="inline" id="A3.p1.5.m5.4"><semantics id="A3.p1.5.m5.4a"><mrow id="A3.p1.5.m5.4.5" xref="A3.p1.5.m5.4.5.cmml"><msub id="A3.p1.5.m5.4.5.2" xref="A3.p1.5.m5.4.5.2.cmml"><mi id="A3.p1.5.m5.4.5.2.2" mathvariant="normal" xref="A3.p1.5.m5.4.5.2.2.cmml">Σ</mi><mrow id="A3.p1.5.m5.2.2.2.4" xref="A3.p1.5.m5.2.2.2.3.cmml"><mi id="A3.p1.5.m5.1.1.1.1" xref="A3.p1.5.m5.1.1.1.1.cmml">θ</mi><mo id="A3.p1.5.m5.2.2.2.4.1" xref="A3.p1.5.m5.2.2.2.3.cmml">,</mo><mn id="A3.p1.5.m5.2.2.2.2" xref="A3.p1.5.m5.2.2.2.2.cmml">22</mn></mrow></msub><mo id="A3.p1.5.m5.4.5.1" xref="A3.p1.5.m5.4.5.1.cmml">=</mo><msubsup id="A3.p1.5.m5.4.5.3" xref="A3.p1.5.m5.4.5.3.cmml"><mi id="A3.p1.5.m5.4.5.3.2.2" xref="A3.p1.5.m5.4.5.3.2.2.cmml">σ</mi><mrow id="A3.p1.5.m5.4.4.2.4" xref="A3.p1.5.m5.4.4.2.3.cmml"><mi id="A3.p1.5.m5.3.3.1.1" xref="A3.p1.5.m5.3.3.1.1.cmml">θ</mi><mo id="A3.p1.5.m5.4.4.2.4.1" xref="A3.p1.5.m5.4.4.2.3.cmml">,</mo><mn id="A3.p1.5.m5.4.4.2.2" xref="A3.p1.5.m5.4.4.2.2.cmml">2</mn></mrow><mn id="A3.p1.5.m5.4.5.3.3" xref="A3.p1.5.m5.4.5.3.3.cmml">2</mn></msubsup></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.5.m5.4b"><apply id="A3.p1.5.m5.4.5.cmml" xref="A3.p1.5.m5.4.5"><eq id="A3.p1.5.m5.4.5.1.cmml" xref="A3.p1.5.m5.4.5.1"></eq><apply id="A3.p1.5.m5.4.5.2.cmml" xref="A3.p1.5.m5.4.5.2"><csymbol cd="ambiguous" id="A3.p1.5.m5.4.5.2.1.cmml" xref="A3.p1.5.m5.4.5.2">subscript</csymbol><ci id="A3.p1.5.m5.4.5.2.2.cmml" xref="A3.p1.5.m5.4.5.2.2">Σ</ci><list id="A3.p1.5.m5.2.2.2.3.cmml" xref="A3.p1.5.m5.2.2.2.4"><ci id="A3.p1.5.m5.1.1.1.1.cmml" xref="A3.p1.5.m5.1.1.1.1">𝜃</ci><cn id="A3.p1.5.m5.2.2.2.2.cmml" type="integer" xref="A3.p1.5.m5.2.2.2.2">22</cn></list></apply><apply id="A3.p1.5.m5.4.5.3.cmml" xref="A3.p1.5.m5.4.5.3"><csymbol cd="ambiguous" id="A3.p1.5.m5.4.5.3.1.cmml" xref="A3.p1.5.m5.4.5.3">superscript</csymbol><apply id="A3.p1.5.m5.4.5.3.2.cmml" xref="A3.p1.5.m5.4.5.3"><csymbol cd="ambiguous" id="A3.p1.5.m5.4.5.3.2.1.cmml" xref="A3.p1.5.m5.4.5.3">subscript</csymbol><ci id="A3.p1.5.m5.4.5.3.2.2.cmml" xref="A3.p1.5.m5.4.5.3.2.2">𝜎</ci><list id="A3.p1.5.m5.4.4.2.3.cmml" xref="A3.p1.5.m5.4.4.2.4"><ci id="A3.p1.5.m5.3.3.1.1.cmml" xref="A3.p1.5.m5.3.3.1.1">𝜃</ci><cn id="A3.p1.5.m5.4.4.2.2.cmml" type="integer" xref="A3.p1.5.m5.4.4.2.2">2</cn></list></apply><cn id="A3.p1.5.m5.4.5.3.3.cmml" type="integer" xref="A3.p1.5.m5.4.5.3.3">2</cn></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.5.m5.4c">\Sigma_{\theta,22}=\sigma_{\theta,2}^{2}</annotation><annotation encoding="application/x-llamapun" id="A3.p1.5.m5.4d">roman_Σ start_POSTSUBSCRIPT italic_θ , 22 end_POSTSUBSCRIPT = italic_σ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math> and <math alttext="\Sigma_{\theta,12}=\Sigma_{\theta,21}=\sigma_{\theta,1}\sigma_{\theta,2}\rho_{\theta}" class="ltx_Math" display="inline" id="A3.p1.6.m6.8"><semantics id="A3.p1.6.m6.8a"><mrow id="A3.p1.6.m6.8.9" xref="A3.p1.6.m6.8.9.cmml"><msub id="A3.p1.6.m6.8.9.2" xref="A3.p1.6.m6.8.9.2.cmml"><mi id="A3.p1.6.m6.8.9.2.2" mathvariant="normal" xref="A3.p1.6.m6.8.9.2.2.cmml">Σ</mi><mrow id="A3.p1.6.m6.2.2.2.4" xref="A3.p1.6.m6.2.2.2.3.cmml"><mi id="A3.p1.6.m6.1.1.1.1" xref="A3.p1.6.m6.1.1.1.1.cmml">θ</mi><mo id="A3.p1.6.m6.2.2.2.4.1" xref="A3.p1.6.m6.2.2.2.3.cmml">,</mo><mn id="A3.p1.6.m6.2.2.2.2" xref="A3.p1.6.m6.2.2.2.2.cmml">12</mn></mrow></msub><mo id="A3.p1.6.m6.8.9.3" xref="A3.p1.6.m6.8.9.3.cmml">=</mo><msub id="A3.p1.6.m6.8.9.4" xref="A3.p1.6.m6.8.9.4.cmml"><mi id="A3.p1.6.m6.8.9.4.2" mathvariant="normal" xref="A3.p1.6.m6.8.9.4.2.cmml">Σ</mi><mrow id="A3.p1.6.m6.4.4.2.4" xref="A3.p1.6.m6.4.4.2.3.cmml"><mi id="A3.p1.6.m6.3.3.1.1" xref="A3.p1.6.m6.3.3.1.1.cmml">θ</mi><mo id="A3.p1.6.m6.4.4.2.4.1" xref="A3.p1.6.m6.4.4.2.3.cmml">,</mo><mn id="A3.p1.6.m6.4.4.2.2" xref="A3.p1.6.m6.4.4.2.2.cmml">21</mn></mrow></msub><mo id="A3.p1.6.m6.8.9.5" xref="A3.p1.6.m6.8.9.5.cmml">=</mo><mrow id="A3.p1.6.m6.8.9.6" xref="A3.p1.6.m6.8.9.6.cmml"><msub id="A3.p1.6.m6.8.9.6.2" xref="A3.p1.6.m6.8.9.6.2.cmml"><mi id="A3.p1.6.m6.8.9.6.2.2" xref="A3.p1.6.m6.8.9.6.2.2.cmml">σ</mi><mrow id="A3.p1.6.m6.6.6.2.4" xref="A3.p1.6.m6.6.6.2.3.cmml"><mi id="A3.p1.6.m6.5.5.1.1" xref="A3.p1.6.m6.5.5.1.1.cmml">θ</mi><mo id="A3.p1.6.m6.6.6.2.4.1" xref="A3.p1.6.m6.6.6.2.3.cmml">,</mo><mn id="A3.p1.6.m6.6.6.2.2" xref="A3.p1.6.m6.6.6.2.2.cmml">1</mn></mrow></msub><mo id="A3.p1.6.m6.8.9.6.1" xref="A3.p1.6.m6.8.9.6.1.cmml">⁢</mo><msub id="A3.p1.6.m6.8.9.6.3" xref="A3.p1.6.m6.8.9.6.3.cmml"><mi id="A3.p1.6.m6.8.9.6.3.2" xref="A3.p1.6.m6.8.9.6.3.2.cmml">σ</mi><mrow id="A3.p1.6.m6.8.8.2.4" xref="A3.p1.6.m6.8.8.2.3.cmml"><mi id="A3.p1.6.m6.7.7.1.1" xref="A3.p1.6.m6.7.7.1.1.cmml">θ</mi><mo id="A3.p1.6.m6.8.8.2.4.1" xref="A3.p1.6.m6.8.8.2.3.cmml">,</mo><mn id="A3.p1.6.m6.8.8.2.2" xref="A3.p1.6.m6.8.8.2.2.cmml">2</mn></mrow></msub><mo id="A3.p1.6.m6.8.9.6.1a" xref="A3.p1.6.m6.8.9.6.1.cmml">⁢</mo><msub id="A3.p1.6.m6.8.9.6.4" xref="A3.p1.6.m6.8.9.6.4.cmml"><mi id="A3.p1.6.m6.8.9.6.4.2" xref="A3.p1.6.m6.8.9.6.4.2.cmml">ρ</mi><mi id="A3.p1.6.m6.8.9.6.4.3" xref="A3.p1.6.m6.8.9.6.4.3.cmml">θ</mi></msub></mrow></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.6.m6.8b"><apply id="A3.p1.6.m6.8.9.cmml" xref="A3.p1.6.m6.8.9"><and id="A3.p1.6.m6.8.9a.cmml" xref="A3.p1.6.m6.8.9"></and><apply id="A3.p1.6.m6.8.9b.cmml" xref="A3.p1.6.m6.8.9"><eq id="A3.p1.6.m6.8.9.3.cmml" xref="A3.p1.6.m6.8.9.3"></eq><apply id="A3.p1.6.m6.8.9.2.cmml" xref="A3.p1.6.m6.8.9.2"><csymbol cd="ambiguous" id="A3.p1.6.m6.8.9.2.1.cmml" xref="A3.p1.6.m6.8.9.2">subscript</csymbol><ci id="A3.p1.6.m6.8.9.2.2.cmml" xref="A3.p1.6.m6.8.9.2.2">Σ</ci><list id="A3.p1.6.m6.2.2.2.3.cmml" xref="A3.p1.6.m6.2.2.2.4"><ci id="A3.p1.6.m6.1.1.1.1.cmml" xref="A3.p1.6.m6.1.1.1.1">𝜃</ci><cn id="A3.p1.6.m6.2.2.2.2.cmml" type="integer" xref="A3.p1.6.m6.2.2.2.2">12</cn></list></apply><apply id="A3.p1.6.m6.8.9.4.cmml" xref="A3.p1.6.m6.8.9.4"><csymbol cd="ambiguous" id="A3.p1.6.m6.8.9.4.1.cmml" xref="A3.p1.6.m6.8.9.4">subscript</csymbol><ci id="A3.p1.6.m6.8.9.4.2.cmml" xref="A3.p1.6.m6.8.9.4.2">Σ</ci><list id="A3.p1.6.m6.4.4.2.3.cmml" xref="A3.p1.6.m6.4.4.2.4"><ci id="A3.p1.6.m6.3.3.1.1.cmml" xref="A3.p1.6.m6.3.3.1.1">𝜃</ci><cn id="A3.p1.6.m6.4.4.2.2.cmml" type="integer" xref="A3.p1.6.m6.4.4.2.2">21</cn></list></apply></apply><apply id="A3.p1.6.m6.8.9c.cmml" xref="A3.p1.6.m6.8.9"><eq id="A3.p1.6.m6.8.9.5.cmml" xref="A3.p1.6.m6.8.9.5"></eq><share href="https://arxiv.org/html/2503.13317v1#A3.p1.6.m6.8.9.4.cmml" id="A3.p1.6.m6.8.9d.cmml" xref="A3.p1.6.m6.8.9"></share><apply id="A3.p1.6.m6.8.9.6.cmml" xref="A3.p1.6.m6.8.9.6"><times id="A3.p1.6.m6.8.9.6.1.cmml" xref="A3.p1.6.m6.8.9.6.1"></times><apply id="A3.p1.6.m6.8.9.6.2.cmml" xref="A3.p1.6.m6.8.9.6.2"><csymbol cd="ambiguous" id="A3.p1.6.m6.8.9.6.2.1.cmml" xref="A3.p1.6.m6.8.9.6.2">subscript</csymbol><ci id="A3.p1.6.m6.8.9.6.2.2.cmml" xref="A3.p1.6.m6.8.9.6.2.2">𝜎</ci><list id="A3.p1.6.m6.6.6.2.3.cmml" xref="A3.p1.6.m6.6.6.2.4"><ci id="A3.p1.6.m6.5.5.1.1.cmml" xref="A3.p1.6.m6.5.5.1.1">𝜃</ci><cn id="A3.p1.6.m6.6.6.2.2.cmml" type="integer" xref="A3.p1.6.m6.6.6.2.2">1</cn></list></apply><apply id="A3.p1.6.m6.8.9.6.3.cmml" xref="A3.p1.6.m6.8.9.6.3"><csymbol cd="ambiguous" id="A3.p1.6.m6.8.9.6.3.1.cmml" xref="A3.p1.6.m6.8.9.6.3">subscript</csymbol><ci id="A3.p1.6.m6.8.9.6.3.2.cmml" xref="A3.p1.6.m6.8.9.6.3.2">𝜎</ci><list id="A3.p1.6.m6.8.8.2.3.cmml" xref="A3.p1.6.m6.8.8.2.4"><ci id="A3.p1.6.m6.7.7.1.1.cmml" xref="A3.p1.6.m6.7.7.1.1">𝜃</ci><cn id="A3.p1.6.m6.8.8.2.2.cmml" type="integer" xref="A3.p1.6.m6.8.8.2.2">2</cn></list></apply><apply id="A3.p1.6.m6.8.9.6.4.cmml" xref="A3.p1.6.m6.8.9.6.4"><csymbol cd="ambiguous" id="A3.p1.6.m6.8.9.6.4.1.cmml" xref="A3.p1.6.m6.8.9.6.4">subscript</csymbol><ci id="A3.p1.6.m6.8.9.6.4.2.cmml" xref="A3.p1.6.m6.8.9.6.4.2">𝜌</ci><ci id="A3.p1.6.m6.8.9.6.4.3.cmml" xref="A3.p1.6.m6.8.9.6.4.3">𝜃</ci></apply></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.6.m6.8c">\Sigma_{\theta,12}=\Sigma_{\theta,21}=\sigma_{\theta,1}\sigma_{\theta,2}\rho_{\theta}</annotation><annotation encoding="application/x-llamapun" id="A3.p1.6.m6.8d">roman_Σ start_POSTSUBSCRIPT italic_θ , 12 end_POSTSUBSCRIPT = roman_Σ start_POSTSUBSCRIPT italic_θ , 21 end_POSTSUBSCRIPT = italic_σ start_POSTSUBSCRIPT italic_θ , 1 end_POSTSUBSCRIPT italic_σ start_POSTSUBSCRIPT italic_θ , 2 end_POSTSUBSCRIPT italic_ρ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math>, where <math alttext="\rho_{\theta}" class="ltx_Math" display="inline" id="A3.p1.7.m7.1"><semantics id="A3.p1.7.m7.1a"><msub id="A3.p1.7.m7.1.1" xref="A3.p1.7.m7.1.1.cmml"><mi id="A3.p1.7.m7.1.1.2" xref="A3.p1.7.m7.1.1.2.cmml">ρ</mi><mi id="A3.p1.7.m7.1.1.3" xref="A3.p1.7.m7.1.1.3.cmml">θ</mi></msub><annotation-xml encoding="MathML-Content" id="A3.p1.7.m7.1b"><apply id="A3.p1.7.m7.1.1.cmml" xref="A3.p1.7.m7.1.1"><csymbol cd="ambiguous" id="A3.p1.7.m7.1.1.1.cmml" xref="A3.p1.7.m7.1.1">subscript</csymbol><ci id="A3.p1.7.m7.1.1.2.cmml" xref="A3.p1.7.m7.1.1.2">𝜌</ci><ci id="A3.p1.7.m7.1.1.3.cmml" xref="A3.p1.7.m7.1.1.3">𝜃</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.7.m7.1c">\rho_{\theta}</annotation><annotation encoding="application/x-llamapun" id="A3.p1.7.m7.1d">italic_ρ start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT</annotation></semantics></math> is the predicted correlation coefficient. This approach, however, is not the most practical, especially for distributions that are not Gaussian. That is why it can be desirable to decompose the joint distribution as <math alttext="p_{\theta}(y_{1},y_{2}|x)=p_{\theta}(y_{2}|x,y_{1})\cdot p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="A3.p1.8.m8.5"><semantics id="A3.p1.8.m8.5a"><mrow id="A3.p1.8.m8.5.5" xref="A3.p1.8.m8.5.5.cmml"><mrow id="A3.p1.8.m8.3.3.2" xref="A3.p1.8.m8.3.3.2.cmml"><msub id="A3.p1.8.m8.3.3.2.4" xref="A3.p1.8.m8.3.3.2.4.cmml"><mi id="A3.p1.8.m8.3.3.2.4.2" xref="A3.p1.8.m8.3.3.2.4.2.cmml">p</mi><mi id="A3.p1.8.m8.3.3.2.4.3" xref="A3.p1.8.m8.3.3.2.4.3.cmml">θ</mi></msub><mo id="A3.p1.8.m8.3.3.2.3" xref="A3.p1.8.m8.3.3.2.3.cmml">⁢</mo><mrow id="A3.p1.8.m8.3.3.2.2.2" xref="A3.p1.8.m8.3.3.2.2.3.cmml"><mo id="A3.p1.8.m8.3.3.2.2.2.3" stretchy="false" xref="A3.p1.8.m8.3.3.2.2.3.cmml">(</mo><msub id="A3.p1.8.m8.2.2.1.1.1.1" xref="A3.p1.8.m8.2.2.1.1.1.1.cmml"><mi id="A3.p1.8.m8.2.2.1.1.1.1.2" xref="A3.p1.8.m8.2.2.1.1.1.1.2.cmml">y</mi><mn id="A3.p1.8.m8.2.2.1.1.1.1.3" xref="A3.p1.8.m8.2.2.1.1.1.1.3.cmml">1</mn></msub><mo id="A3.p1.8.m8.3.3.2.2.2.4" xref="A3.p1.8.m8.3.3.2.2.3.cmml">,</mo><mrow id="A3.p1.8.m8.3.3.2.2.2.2" xref="A3.p1.8.m8.3.3.2.2.2.2.cmml"><msub id="A3.p1.8.m8.3.3.2.2.2.2.2" xref="A3.p1.8.m8.3.3.2.2.2.2.2.cmml"><mi id="A3.p1.8.m8.3.3.2.2.2.2.2.2" xref="A3.p1.8.m8.3.3.2.2.2.2.2.2.cmml">y</mi><mn id="A3.p1.8.m8.3.3.2.2.2.2.2.3" xref="A3.p1.8.m8.3.3.2.2.2.2.2.3.cmml">2</mn></msub><mo fence="false" id="A3.p1.8.m8.3.3.2.2.2.2.1" xref="A3.p1.8.m8.3.3.2.2.2.2.1.cmml">|</mo><mi id="A3.p1.8.m8.3.3.2.2.2.2.3" xref="A3.p1.8.m8.3.3.2.2.2.2.3.cmml">x</mi></mrow><mo id="A3.p1.8.m8.3.3.2.2.2.5" stretchy="false" xref="A3.p1.8.m8.3.3.2.2.3.cmml">)</mo></mrow></mrow><mo id="A3.p1.8.m8.5.5.5" xref="A3.p1.8.m8.5.5.5.cmml">=</mo><mrow id="A3.p1.8.m8.5.5.4" xref="A3.p1.8.m8.5.5.4.cmml"><mrow id="A3.p1.8.m8.4.4.3.1" xref="A3.p1.8.m8.4.4.3.1.cmml"><mrow id="A3.p1.8.m8.4.4.3.1.1" xref="A3.p1.8.m8.4.4.3.1.1.cmml"><msub id="A3.p1.8.m8.4.4.3.1.1.3" xref="A3.p1.8.m8.4.4.3.1.1.3.cmml"><mi id="A3.p1.8.m8.4.4.3.1.1.3.2" xref="A3.p1.8.m8.4.4.3.1.1.3.2.cmml">p</mi><mi id="A3.p1.8.m8.4.4.3.1.1.3.3" xref="A3.p1.8.m8.4.4.3.1.1.3.3.cmml">θ</mi></msub><mo id="A3.p1.8.m8.4.4.3.1.1.2" xref="A3.p1.8.m8.4.4.3.1.1.2.cmml">⁢</mo><mrow id="A3.p1.8.m8.4.4.3.1.1.1.1" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.cmml"><mo id="A3.p1.8.m8.4.4.3.1.1.1.1.2" stretchy="false" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.cmml">(</mo><mrow id="A3.p1.8.m8.4.4.3.1.1.1.1.1" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.cmml"><msub id="A3.p1.8.m8.4.4.3.1.1.1.1.1.3" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.cmml"><mi id="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.2" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.2.cmml">y</mi><mn id="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.3" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.3.cmml">2</mn></msub><mo fence="false" id="A3.p1.8.m8.4.4.3.1.1.1.1.1.2" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.2.cmml">|</mo><mrow id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.2.cmml"><mi id="A3.p1.8.m8.1.1" xref="A3.p1.8.m8.1.1.cmml">x</mi><mo id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.2" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.2.cmml">,</mo><msub id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.cmml"><mi id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.2" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.2.cmml">y</mi><mn id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.3" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.3.cmml">1</mn></msub></mrow></mrow><mo id="A3.p1.8.m8.4.4.3.1.1.1.1.3" rspace="0.055em" stretchy="false" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.cmml">)</mo></mrow></mrow><mo id="A3.p1.8.m8.4.4.3.1.2" rspace="0.222em" xref="A3.p1.8.m8.4.4.3.1.2.cmml">⋅</mo><msub id="A3.p1.8.m8.4.4.3.1.3" xref="A3.p1.8.m8.4.4.3.1.3.cmml"><mi id="A3.p1.8.m8.4.4.3.1.3.2" xref="A3.p1.8.m8.4.4.3.1.3.2.cmml">p</mi><mi id="A3.p1.8.m8.4.4.3.1.3.3" xref="A3.p1.8.m8.4.4.3.1.3.3.cmml">θ</mi></msub></mrow><mo id="A3.p1.8.m8.5.5.4.3" xref="A3.p1.8.m8.5.5.4.3.cmml">⁢</mo><mrow id="A3.p1.8.m8.5.5.4.2.1" xref="A3.p1.8.m8.5.5.4.2.1.1.cmml"><mo id="A3.p1.8.m8.5.5.4.2.1.2" stretchy="false" xref="A3.p1.8.m8.5.5.4.2.1.1.cmml">(</mo><mrow id="A3.p1.8.m8.5.5.4.2.1.1" xref="A3.p1.8.m8.5.5.4.2.1.1.cmml"><msub id="A3.p1.8.m8.5.5.4.2.1.1.2" xref="A3.p1.8.m8.5.5.4.2.1.1.2.cmml"><mi id="A3.p1.8.m8.5.5.4.2.1.1.2.2" xref="A3.p1.8.m8.5.5.4.2.1.1.2.2.cmml">y</mi><mn id="A3.p1.8.m8.5.5.4.2.1.1.2.3" xref="A3.p1.8.m8.5.5.4.2.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A3.p1.8.m8.5.5.4.2.1.1.1" xref="A3.p1.8.m8.5.5.4.2.1.1.1.cmml">|</mo><mi id="A3.p1.8.m8.5.5.4.2.1.1.3" xref="A3.p1.8.m8.5.5.4.2.1.1.3.cmml">x</mi></mrow><mo id="A3.p1.8.m8.5.5.4.2.1.3" stretchy="false" xref="A3.p1.8.m8.5.5.4.2.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.8.m8.5b"><apply id="A3.p1.8.m8.5.5.cmml" xref="A3.p1.8.m8.5.5"><eq id="A3.p1.8.m8.5.5.5.cmml" xref="A3.p1.8.m8.5.5.5"></eq><apply id="A3.p1.8.m8.3.3.2.cmml" xref="A3.p1.8.m8.3.3.2"><times id="A3.p1.8.m8.3.3.2.3.cmml" xref="A3.p1.8.m8.3.3.2.3"></times><apply id="A3.p1.8.m8.3.3.2.4.cmml" xref="A3.p1.8.m8.3.3.2.4"><csymbol cd="ambiguous" id="A3.p1.8.m8.3.3.2.4.1.cmml" xref="A3.p1.8.m8.3.3.2.4">subscript</csymbol><ci id="A3.p1.8.m8.3.3.2.4.2.cmml" xref="A3.p1.8.m8.3.3.2.4.2">𝑝</ci><ci id="A3.p1.8.m8.3.3.2.4.3.cmml" xref="A3.p1.8.m8.3.3.2.4.3">𝜃</ci></apply><interval closure="open" id="A3.p1.8.m8.3.3.2.2.3.cmml" xref="A3.p1.8.m8.3.3.2.2.2"><apply id="A3.p1.8.m8.2.2.1.1.1.1.cmml" xref="A3.p1.8.m8.2.2.1.1.1.1"><csymbol cd="ambiguous" id="A3.p1.8.m8.2.2.1.1.1.1.1.cmml" xref="A3.p1.8.m8.2.2.1.1.1.1">subscript</csymbol><ci id="A3.p1.8.m8.2.2.1.1.1.1.2.cmml" xref="A3.p1.8.m8.2.2.1.1.1.1.2">𝑦</ci><cn id="A3.p1.8.m8.2.2.1.1.1.1.3.cmml" type="integer" xref="A3.p1.8.m8.2.2.1.1.1.1.3">1</cn></apply><apply id="A3.p1.8.m8.3.3.2.2.2.2.cmml" xref="A3.p1.8.m8.3.3.2.2.2.2"><csymbol cd="latexml" id="A3.p1.8.m8.3.3.2.2.2.2.1.cmml" xref="A3.p1.8.m8.3.3.2.2.2.2.1">conditional</csymbol><apply id="A3.p1.8.m8.3.3.2.2.2.2.2.cmml" xref="A3.p1.8.m8.3.3.2.2.2.2.2"><csymbol cd="ambiguous" id="A3.p1.8.m8.3.3.2.2.2.2.2.1.cmml" xref="A3.p1.8.m8.3.3.2.2.2.2.2">subscript</csymbol><ci id="A3.p1.8.m8.3.3.2.2.2.2.2.2.cmml" xref="A3.p1.8.m8.3.3.2.2.2.2.2.2">𝑦</ci><cn id="A3.p1.8.m8.3.3.2.2.2.2.2.3.cmml" type="integer" xref="A3.p1.8.m8.3.3.2.2.2.2.2.3">2</cn></apply><ci id="A3.p1.8.m8.3.3.2.2.2.2.3.cmml" xref="A3.p1.8.m8.3.3.2.2.2.2.3">𝑥</ci></apply></interval></apply><apply id="A3.p1.8.m8.5.5.4.cmml" xref="A3.p1.8.m8.5.5.4"><times id="A3.p1.8.m8.5.5.4.3.cmml" xref="A3.p1.8.m8.5.5.4.3"></times><apply id="A3.p1.8.m8.4.4.3.1.cmml" xref="A3.p1.8.m8.4.4.3.1"><ci id="A3.p1.8.m8.4.4.3.1.2.cmml" xref="A3.p1.8.m8.4.4.3.1.2">⋅</ci><apply id="A3.p1.8.m8.4.4.3.1.1.cmml" xref="A3.p1.8.m8.4.4.3.1.1"><times id="A3.p1.8.m8.4.4.3.1.1.2.cmml" xref="A3.p1.8.m8.4.4.3.1.1.2"></times><apply id="A3.p1.8.m8.4.4.3.1.1.3.cmml" xref="A3.p1.8.m8.4.4.3.1.1.3"><csymbol cd="ambiguous" id="A3.p1.8.m8.4.4.3.1.1.3.1.cmml" xref="A3.p1.8.m8.4.4.3.1.1.3">subscript</csymbol><ci id="A3.p1.8.m8.4.4.3.1.1.3.2.cmml" xref="A3.p1.8.m8.4.4.3.1.1.3.2">𝑝</ci><ci id="A3.p1.8.m8.4.4.3.1.1.3.3.cmml" xref="A3.p1.8.m8.4.4.3.1.1.3.3">𝜃</ci></apply><apply id="A3.p1.8.m8.4.4.3.1.1.1.1.1.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1"><csymbol cd="latexml" id="A3.p1.8.m8.4.4.3.1.1.1.1.1.2.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.2">conditional</csymbol><apply id="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.3"><csymbol cd="ambiguous" id="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.1.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.3">subscript</csymbol><ci id="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.2.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.2">𝑦</ci><cn id="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.3.cmml" type="integer" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.3.3">2</cn></apply><list id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.2.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1"><ci id="A3.p1.8.m8.1.1.cmml" xref="A3.p1.8.m8.1.1">𝑥</ci><apply id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.1.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1">subscript</csymbol><ci id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.2.cmml" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.2">𝑦</ci><cn id="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.3.cmml" type="integer" xref="A3.p1.8.m8.4.4.3.1.1.1.1.1.1.1.1.3">1</cn></apply></list></apply></apply><apply id="A3.p1.8.m8.4.4.3.1.3.cmml" xref="A3.p1.8.m8.4.4.3.1.3"><csymbol cd="ambiguous" id="A3.p1.8.m8.4.4.3.1.3.1.cmml" xref="A3.p1.8.m8.4.4.3.1.3">subscript</csymbol><ci id="A3.p1.8.m8.4.4.3.1.3.2.cmml" xref="A3.p1.8.m8.4.4.3.1.3.2">𝑝</ci><ci id="A3.p1.8.m8.4.4.3.1.3.3.cmml" xref="A3.p1.8.m8.4.4.3.1.3.3">𝜃</ci></apply></apply><apply id="A3.p1.8.m8.5.5.4.2.1.1.cmml" xref="A3.p1.8.m8.5.5.4.2.1"><csymbol cd="latexml" id="A3.p1.8.m8.5.5.4.2.1.1.1.cmml" xref="A3.p1.8.m8.5.5.4.2.1.1.1">conditional</csymbol><apply id="A3.p1.8.m8.5.5.4.2.1.1.2.cmml" xref="A3.p1.8.m8.5.5.4.2.1.1.2"><csymbol cd="ambiguous" id="A3.p1.8.m8.5.5.4.2.1.1.2.1.cmml" xref="A3.p1.8.m8.5.5.4.2.1.1.2">subscript</csymbol><ci id="A3.p1.8.m8.5.5.4.2.1.1.2.2.cmml" xref="A3.p1.8.m8.5.5.4.2.1.1.2.2">𝑦</ci><cn id="A3.p1.8.m8.5.5.4.2.1.1.2.3.cmml" type="integer" xref="A3.p1.8.m8.5.5.4.2.1.1.2.3">1</cn></apply><ci id="A3.p1.8.m8.5.5.4.2.1.1.3.cmml" xref="A3.p1.8.m8.5.5.4.2.1.1.3">𝑥</ci></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.8.m8.5c">p_{\theta}(y_{1},y_{2}|x)=p_{\theta}(y_{2}|x,y_{1})\cdot p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="A3.p1.8.m8.5d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x ) = italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT | italic_x , italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT ) ⋅ italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math>. This, however, requires the model to be able to accept an optional input, and behave differently accordingly. In <cite class="ltx_cite ltx_citemacro_citep">(Durasov et al., <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#bib.bib2" title="">2024</a>)</cite>, it is proposed to model <math alttext="p_{\theta}(y_{1}|x)" class="ltx_Math" display="inline" id="A3.p1.9.m9.1"><semantics id="A3.p1.9.m9.1a"><mrow id="A3.p1.9.m9.1.1" xref="A3.p1.9.m9.1.1.cmml"><msub id="A3.p1.9.m9.1.1.3" xref="A3.p1.9.m9.1.1.3.cmml"><mi id="A3.p1.9.m9.1.1.3.2" xref="A3.p1.9.m9.1.1.3.2.cmml">p</mi><mi id="A3.p1.9.m9.1.1.3.3" xref="A3.p1.9.m9.1.1.3.3.cmml">θ</mi></msub><mo id="A3.p1.9.m9.1.1.2" xref="A3.p1.9.m9.1.1.2.cmml">⁢</mo><mrow id="A3.p1.9.m9.1.1.1.1" xref="A3.p1.9.m9.1.1.1.1.1.cmml"><mo id="A3.p1.9.m9.1.1.1.1.2" stretchy="false" xref="A3.p1.9.m9.1.1.1.1.1.cmml">(</mo><mrow id="A3.p1.9.m9.1.1.1.1.1" xref="A3.p1.9.m9.1.1.1.1.1.cmml"><msub id="A3.p1.9.m9.1.1.1.1.1.2" xref="A3.p1.9.m9.1.1.1.1.1.2.cmml"><mi id="A3.p1.9.m9.1.1.1.1.1.2.2" xref="A3.p1.9.m9.1.1.1.1.1.2.2.cmml">y</mi><mn id="A3.p1.9.m9.1.1.1.1.1.2.3" xref="A3.p1.9.m9.1.1.1.1.1.2.3.cmml">1</mn></msub><mo fence="false" id="A3.p1.9.m9.1.1.1.1.1.1" xref="A3.p1.9.m9.1.1.1.1.1.1.cmml">|</mo><mi id="A3.p1.9.m9.1.1.1.1.1.3" xref="A3.p1.9.m9.1.1.1.1.1.3.cmml">x</mi></mrow><mo id="A3.p1.9.m9.1.1.1.1.3" stretchy="false" xref="A3.p1.9.m9.1.1.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.9.m9.1b"><apply id="A3.p1.9.m9.1.1.cmml" xref="A3.p1.9.m9.1.1"><times id="A3.p1.9.m9.1.1.2.cmml" xref="A3.p1.9.m9.1.1.2"></times><apply id="A3.p1.9.m9.1.1.3.cmml" xref="A3.p1.9.m9.1.1.3"><csymbol cd="ambiguous" id="A3.p1.9.m9.1.1.3.1.cmml" xref="A3.p1.9.m9.1.1.3">subscript</csymbol><ci id="A3.p1.9.m9.1.1.3.2.cmml" xref="A3.p1.9.m9.1.1.3.2">𝑝</ci><ci id="A3.p1.9.m9.1.1.3.3.cmml" xref="A3.p1.9.m9.1.1.3.3">𝜃</ci></apply><apply id="A3.p1.9.m9.1.1.1.1.1.cmml" xref="A3.p1.9.m9.1.1.1.1"><csymbol cd="latexml" id="A3.p1.9.m9.1.1.1.1.1.1.cmml" xref="A3.p1.9.m9.1.1.1.1.1.1">conditional</csymbol><apply id="A3.p1.9.m9.1.1.1.1.1.2.cmml" xref="A3.p1.9.m9.1.1.1.1.1.2"><csymbol cd="ambiguous" id="A3.p1.9.m9.1.1.1.1.1.2.1.cmml" xref="A3.p1.9.m9.1.1.1.1.1.2">subscript</csymbol><ci id="A3.p1.9.m9.1.1.1.1.1.2.2.cmml" xref="A3.p1.9.m9.1.1.1.1.1.2.2">𝑦</ci><cn id="A3.p1.9.m9.1.1.1.1.1.2.3.cmml" type="integer" xref="A3.p1.9.m9.1.1.1.1.1.2.3">1</cn></apply><ci id="A3.p1.9.m9.1.1.1.1.1.3.cmml" xref="A3.p1.9.m9.1.1.1.1.1.3">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.9.m9.1c">p_{\theta}(y_{1}|x)</annotation><annotation encoding="application/x-llamapun" id="A3.p1.9.m9.1d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x )</annotation></semantics></math> as <math alttext="p_{\theta}(y_{1}|x,y_{0})" class="ltx_Math" display="inline" id="A3.p1.10.m10.2"><semantics id="A3.p1.10.m10.2a"><mrow id="A3.p1.10.m10.2.2" xref="A3.p1.10.m10.2.2.cmml"><msub id="A3.p1.10.m10.2.2.3" xref="A3.p1.10.m10.2.2.3.cmml"><mi id="A3.p1.10.m10.2.2.3.2" xref="A3.p1.10.m10.2.2.3.2.cmml">p</mi><mi id="A3.p1.10.m10.2.2.3.3" xref="A3.p1.10.m10.2.2.3.3.cmml">θ</mi></msub><mo id="A3.p1.10.m10.2.2.2" xref="A3.p1.10.m10.2.2.2.cmml">⁢</mo><mrow id="A3.p1.10.m10.2.2.1.1" xref="A3.p1.10.m10.2.2.1.1.1.cmml"><mo id="A3.p1.10.m10.2.2.1.1.2" stretchy="false" xref="A3.p1.10.m10.2.2.1.1.1.cmml">(</mo><mrow id="A3.p1.10.m10.2.2.1.1.1" xref="A3.p1.10.m10.2.2.1.1.1.cmml"><msub id="A3.p1.10.m10.2.2.1.1.1.3" xref="A3.p1.10.m10.2.2.1.1.1.3.cmml"><mi id="A3.p1.10.m10.2.2.1.1.1.3.2" xref="A3.p1.10.m10.2.2.1.1.1.3.2.cmml">y</mi><mn id="A3.p1.10.m10.2.2.1.1.1.3.3" xref="A3.p1.10.m10.2.2.1.1.1.3.3.cmml">1</mn></msub><mo fence="false" id="A3.p1.10.m10.2.2.1.1.1.2" xref="A3.p1.10.m10.2.2.1.1.1.2.cmml">|</mo><mrow id="A3.p1.10.m10.2.2.1.1.1.1.1" xref="A3.p1.10.m10.2.2.1.1.1.1.2.cmml"><mi id="A3.p1.10.m10.1.1" xref="A3.p1.10.m10.1.1.cmml">x</mi><mo id="A3.p1.10.m10.2.2.1.1.1.1.1.2" xref="A3.p1.10.m10.2.2.1.1.1.1.2.cmml">,</mo><msub id="A3.p1.10.m10.2.2.1.1.1.1.1.1" xref="A3.p1.10.m10.2.2.1.1.1.1.1.1.cmml"><mi id="A3.p1.10.m10.2.2.1.1.1.1.1.1.2" xref="A3.p1.10.m10.2.2.1.1.1.1.1.1.2.cmml">y</mi><mn id="A3.p1.10.m10.2.2.1.1.1.1.1.1.3" xref="A3.p1.10.m10.2.2.1.1.1.1.1.1.3.cmml">0</mn></msub></mrow></mrow><mo id="A3.p1.10.m10.2.2.1.1.3" stretchy="false" xref="A3.p1.10.m10.2.2.1.1.1.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="A3.p1.10.m10.2b"><apply id="A3.p1.10.m10.2.2.cmml" xref="A3.p1.10.m10.2.2"><times id="A3.p1.10.m10.2.2.2.cmml" xref="A3.p1.10.m10.2.2.2"></times><apply id="A3.p1.10.m10.2.2.3.cmml" xref="A3.p1.10.m10.2.2.3"><csymbol cd="ambiguous" id="A3.p1.10.m10.2.2.3.1.cmml" xref="A3.p1.10.m10.2.2.3">subscript</csymbol><ci id="A3.p1.10.m10.2.2.3.2.cmml" xref="A3.p1.10.m10.2.2.3.2">𝑝</ci><ci id="A3.p1.10.m10.2.2.3.3.cmml" xref="A3.p1.10.m10.2.2.3.3">𝜃</ci></apply><apply id="A3.p1.10.m10.2.2.1.1.1.cmml" xref="A3.p1.10.m10.2.2.1.1"><csymbol cd="latexml" id="A3.p1.10.m10.2.2.1.1.1.2.cmml" xref="A3.p1.10.m10.2.2.1.1.1.2">conditional</csymbol><apply id="A3.p1.10.m10.2.2.1.1.1.3.cmml" xref="A3.p1.10.m10.2.2.1.1.1.3"><csymbol cd="ambiguous" id="A3.p1.10.m10.2.2.1.1.1.3.1.cmml" xref="A3.p1.10.m10.2.2.1.1.1.3">subscript</csymbol><ci id="A3.p1.10.m10.2.2.1.1.1.3.2.cmml" xref="A3.p1.10.m10.2.2.1.1.1.3.2">𝑦</ci><cn id="A3.p1.10.m10.2.2.1.1.1.3.3.cmml" type="integer" xref="A3.p1.10.m10.2.2.1.1.1.3.3">1</cn></apply><list id="A3.p1.10.m10.2.2.1.1.1.1.2.cmml" xref="A3.p1.10.m10.2.2.1.1.1.1.1"><ci id="A3.p1.10.m10.1.1.cmml" xref="A3.p1.10.m10.1.1">𝑥</ci><apply id="A3.p1.10.m10.2.2.1.1.1.1.1.1.cmml" xref="A3.p1.10.m10.2.2.1.1.1.1.1.1"><csymbol cd="ambiguous" id="A3.p1.10.m10.2.2.1.1.1.1.1.1.1.cmml" xref="A3.p1.10.m10.2.2.1.1.1.1.1.1">subscript</csymbol><ci id="A3.p1.10.m10.2.2.1.1.1.1.1.1.2.cmml" xref="A3.p1.10.m10.2.2.1.1.1.1.1.1.2">𝑦</ci><cn id="A3.p1.10.m10.2.2.1.1.1.1.1.1.3.cmml" type="integer" xref="A3.p1.10.m10.2.2.1.1.1.1.1.1.3">0</cn></apply></list></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.10.m10.2c">p_{\theta}(y_{1}|x,y_{0})</annotation><annotation encoding="application/x-llamapun" id="A3.p1.10.m10.2d">italic_p start_POSTSUBSCRIPT italic_θ end_POSTSUBSCRIPT ( italic_y start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT | italic_x , italic_y start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )</annotation></semantics></math>, where <math alttext="y_{0}" class="ltx_Math" display="inline" id="A3.p1.11.m11.1"><semantics id="A3.p1.11.m11.1a"><msub id="A3.p1.11.m11.1.1" xref="A3.p1.11.m11.1.1.cmml"><mi id="A3.p1.11.m11.1.1.2" xref="A3.p1.11.m11.1.1.2.cmml">y</mi><mn id="A3.p1.11.m11.1.1.3" xref="A3.p1.11.m11.1.1.3.cmml">0</mn></msub><annotation-xml encoding="MathML-Content" id="A3.p1.11.m11.1b"><apply id="A3.p1.11.m11.1.1.cmml" xref="A3.p1.11.m11.1.1"><csymbol cd="ambiguous" id="A3.p1.11.m11.1.1.1.cmml" xref="A3.p1.11.m11.1.1">subscript</csymbol><ci id="A3.p1.11.m11.1.1.2.cmml" xref="A3.p1.11.m11.1.1.2">𝑦</ci><cn id="A3.p1.11.m11.1.1.3.cmml" type="integer" xref="A3.p1.11.m11.1.1.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p1.11.m11.1c">y_{0}</annotation><annotation encoding="application/x-llamapun" id="A3.p1.11.m11.1d">italic_y start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT</annotation></semantics></math> is an uninformative constant specified as an hyperparameter. This way, the inference function of the model has to be modified only slightly, as show in Alg. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#alg1" title="Algorithm 1 ‣ Appendix C Outline of the necessary model modifications ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">1</span></a> and <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#alg2" title="Algorithm 2 ‣ Appendix C Outline of the necessary model modifications ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">2</span></a>.</p> </div> <figure class="ltx_float ltx_minipage ltx_align_middle ltx_framed ltx_framed_top" id="alg1" style="width:208.1pt;"> <figcaption class="ltx_caption"><span class="ltx_tag ltx_tag_float"><span class="ltx_text ltx_font_bold" id="alg1.2.1.1">Algorithm 1</span> </span> Original Neural Network inference</figcaption> <div class="ltx_listing ltx_listing" id="alg1.3"> <div class="ltx_listingline" id="alg1.l1"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l1.1.1.1" style="font-size:80%;">1:</span></span> <span class="ltx_text ltx_font_bold" id="alg1.l1.2">Input</span> input <math alttext="x" class="ltx_Math" display="inline" id="alg1.l1.m1.1"><semantics id="alg1.l1.m1.1a"><mi id="alg1.l1.m1.1.1" xref="alg1.l1.m1.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="alg1.l1.m1.1b"><ci id="alg1.l1.m1.1.1.cmml" xref="alg1.l1.m1.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="alg1.l1.m1.1c">x</annotation><annotation encoding="application/x-llamapun" id="alg1.l1.m1.1d">italic_x</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg1.l2"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l2.1.1.1" style="font-size:80%;">2:</span></span> <span class="ltx_text" id="alg1.l2.2" style="color:#808080;"> # </span> </div> <div class="ltx_listingline" id="alg1.l3"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l3.1.1.1" style="font-size:80%;">3:</span></span> <span class="ltx_text" id="alg1.l3.2" style="color:#808080;"> # </span> </div> <div class="ltx_listingline" id="alg1.l4"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l4.1.1.1" style="font-size:80%;">4:</span></span> <span class="ltx_text" id="alg1.l4.2" style="color:#808080;"> # </span> </div> <div class="ltx_listingline" id="alg1.l5"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l5.1.1.1" style="font-size:80%;">5:</span></span> <span class="ltx_text" id="alg1.l5.2" style="color:#808080;"> # </span> </div> <div class="ltx_listingline" id="alg1.l6"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l6.1.1.1" style="font-size:80%;">6:</span></span> <span class="ltx_text" id="alg1.l6.2" style="color:#808080;"> # </span> </div> <div class="ltx_listingline" id="alg1.l7"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l7.1.1.1" style="font-size:80%;">7:</span></span> <math alttext="x\leftarrow\text{input}(x)" class="ltx_Math" display="inline" id="alg1.l7.m1.1"><semantics id="alg1.l7.m1.1a"><mrow id="alg1.l7.m1.1.2" xref="alg1.l7.m1.1.2.cmml"><mi id="alg1.l7.m1.1.2.2" xref="alg1.l7.m1.1.2.2.cmml">x</mi><mo id="alg1.l7.m1.1.2.1" stretchy="false" xref="alg1.l7.m1.1.2.1.cmml">←</mo><mrow id="alg1.l7.m1.1.2.3" xref="alg1.l7.m1.1.2.3.cmml"><mtext id="alg1.l7.m1.1.2.3.2" xref="alg1.l7.m1.1.2.3.2a.cmml">input</mtext><mo id="alg1.l7.m1.1.2.3.1" xref="alg1.l7.m1.1.2.3.1.cmml">⁢</mo><mrow id="alg1.l7.m1.1.2.3.3.2" xref="alg1.l7.m1.1.2.3.cmml"><mo id="alg1.l7.m1.1.2.3.3.2.1" stretchy="false" xref="alg1.l7.m1.1.2.3.cmml">(</mo><mi id="alg1.l7.m1.1.1" xref="alg1.l7.m1.1.1.cmml">x</mi><mo id="alg1.l7.m1.1.2.3.3.2.2" stretchy="false" xref="alg1.l7.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg1.l7.m1.1b"><apply id="alg1.l7.m1.1.2.cmml" xref="alg1.l7.m1.1.2"><ci id="alg1.l7.m1.1.2.1.cmml" xref="alg1.l7.m1.1.2.1">←</ci><ci id="alg1.l7.m1.1.2.2.cmml" xref="alg1.l7.m1.1.2.2">𝑥</ci><apply id="alg1.l7.m1.1.2.3.cmml" xref="alg1.l7.m1.1.2.3"><times id="alg1.l7.m1.1.2.3.1.cmml" xref="alg1.l7.m1.1.2.3.1"></times><ci id="alg1.l7.m1.1.2.3.2a.cmml" xref="alg1.l7.m1.1.2.3.2"><mtext id="alg1.l7.m1.1.2.3.2.cmml" xref="alg1.l7.m1.1.2.3.2">input</mtext></ci><ci id="alg1.l7.m1.1.1.cmml" xref="alg1.l7.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg1.l7.m1.1c">x\leftarrow\text{input}(x)</annotation><annotation encoding="application/x-llamapun" id="alg1.l7.m1.1d">italic_x ← input ( italic_x )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg1.l8"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l8.1.1.1" style="font-size:80%;">8:</span></span> <math alttext="x\leftarrow\text{hidden}(x)" class="ltx_Math" display="inline" id="alg1.l8.m1.1"><semantics id="alg1.l8.m1.1a"><mrow id="alg1.l8.m1.1.2" xref="alg1.l8.m1.1.2.cmml"><mi id="alg1.l8.m1.1.2.2" xref="alg1.l8.m1.1.2.2.cmml">x</mi><mo id="alg1.l8.m1.1.2.1" stretchy="false" xref="alg1.l8.m1.1.2.1.cmml">←</mo><mrow id="alg1.l8.m1.1.2.3" xref="alg1.l8.m1.1.2.3.cmml"><mtext id="alg1.l8.m1.1.2.3.2" xref="alg1.l8.m1.1.2.3.2a.cmml">hidden</mtext><mo id="alg1.l8.m1.1.2.3.1" xref="alg1.l8.m1.1.2.3.1.cmml">⁢</mo><mrow id="alg1.l8.m1.1.2.3.3.2" xref="alg1.l8.m1.1.2.3.cmml"><mo id="alg1.l8.m1.1.2.3.3.2.1" stretchy="false" xref="alg1.l8.m1.1.2.3.cmml">(</mo><mi id="alg1.l8.m1.1.1" xref="alg1.l8.m1.1.1.cmml">x</mi><mo id="alg1.l8.m1.1.2.3.3.2.2" stretchy="false" xref="alg1.l8.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg1.l8.m1.1b"><apply id="alg1.l8.m1.1.2.cmml" xref="alg1.l8.m1.1.2"><ci id="alg1.l8.m1.1.2.1.cmml" xref="alg1.l8.m1.1.2.1">←</ci><ci id="alg1.l8.m1.1.2.2.cmml" xref="alg1.l8.m1.1.2.2">𝑥</ci><apply id="alg1.l8.m1.1.2.3.cmml" xref="alg1.l8.m1.1.2.3"><times id="alg1.l8.m1.1.2.3.1.cmml" xref="alg1.l8.m1.1.2.3.1"></times><ci id="alg1.l8.m1.1.2.3.2a.cmml" xref="alg1.l8.m1.1.2.3.2"><mtext id="alg1.l8.m1.1.2.3.2.cmml" xref="alg1.l8.m1.1.2.3.2">hidden</mtext></ci><ci id="alg1.l8.m1.1.1.cmml" xref="alg1.l8.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg1.l8.m1.1c">x\leftarrow\text{hidden}(x)</annotation><annotation encoding="application/x-llamapun" id="alg1.l8.m1.1d">italic_x ← hidden ( italic_x )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg1.l9"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg1.l9.1.1.1" style="font-size:80%;">9:</span></span> <span class="ltx_text ltx_font_bold" id="alg1.l9.2">Return:</span> <math alttext="\text{output}(x)" class="ltx_Math" display="inline" id="alg1.l9.m1.1"><semantics id="alg1.l9.m1.1a"><mrow id="alg1.l9.m1.1.2" xref="alg1.l9.m1.1.2.cmml"><mtext id="alg1.l9.m1.1.2.2" xref="alg1.l9.m1.1.2.2a.cmml">output</mtext><mo id="alg1.l9.m1.1.2.1" xref="alg1.l9.m1.1.2.1.cmml">⁢</mo><mrow id="alg1.l9.m1.1.2.3.2" xref="alg1.l9.m1.1.2.cmml"><mo id="alg1.l9.m1.1.2.3.2.1" stretchy="false" xref="alg1.l9.m1.1.2.cmml">(</mo><mi id="alg1.l9.m1.1.1" xref="alg1.l9.m1.1.1.cmml">x</mi><mo id="alg1.l9.m1.1.2.3.2.2" stretchy="false" xref="alg1.l9.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg1.l9.m1.1b"><apply id="alg1.l9.m1.1.2.cmml" xref="alg1.l9.m1.1.2"><times id="alg1.l9.m1.1.2.1.cmml" xref="alg1.l9.m1.1.2.1"></times><ci id="alg1.l9.m1.1.2.2a.cmml" xref="alg1.l9.m1.1.2.2"><mtext id="alg1.l9.m1.1.2.2.cmml" xref="alg1.l9.m1.1.2.2">output</mtext></ci><ci id="alg1.l9.m1.1.1.cmml" xref="alg1.l9.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="alg1.l9.m1.1c">\text{output}(x)</annotation><annotation encoding="application/x-llamapun" id="alg1.l9.m1.1d">output ( italic_x )</annotation></semantics></math> </div> </div> </figure> <figure class="ltx_float ltx_minipage ltx_align_middle ltx_framed ltx_framed_top" id="alg2" style="width:208.1pt;"> <figcaption class="ltx_caption"><span class="ltx_tag ltx_tag_float"><span class="ltx_text ltx_font_bold" id="alg2.2.1.1">Algorithm 2</span> </span> Modified inference</figcaption> <div class="ltx_listing ltx_listing" id="alg2.3"> <div class="ltx_listingline" id="alg2.l1"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l1.1.1.1" style="font-size:80%;">1:</span></span> <span class="ltx_text ltx_font_bold" id="alg2.l1.2">Input:</span> input <math alttext="x" class="ltx_Math" display="inline" id="alg2.l1.m1.1"><semantics id="alg2.l1.m1.1a"><mi id="alg2.l1.m1.1.1" xref="alg2.l1.m1.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="alg2.l1.m1.1b"><ci id="alg2.l1.m1.1.1.cmml" xref="alg2.l1.m1.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="alg2.l1.m1.1c">x</annotation><annotation encoding="application/x-llamapun" id="alg2.l1.m1.1d">italic_x</annotation></semantics></math>, constant <math alttext="y_{0}" class="ltx_Math" display="inline" id="alg2.l1.m2.1"><semantics id="alg2.l1.m2.1a"><msub id="alg2.l1.m2.1.1" xref="alg2.l1.m2.1.1.cmml"><mi id="alg2.l1.m2.1.1.2" xref="alg2.l1.m2.1.1.2.cmml">y</mi><mn id="alg2.l1.m2.1.1.3" xref="alg2.l1.m2.1.1.3.cmml">0</mn></msub><annotation-xml encoding="MathML-Content" id="alg2.l1.m2.1b"><apply id="alg2.l1.m2.1.1.cmml" xref="alg2.l1.m2.1.1"><csymbol cd="ambiguous" id="alg2.l1.m2.1.1.1.cmml" xref="alg2.l1.m2.1.1">subscript</csymbol><ci id="alg2.l1.m2.1.1.2.cmml" xref="alg2.l1.m2.1.1.2">𝑦</ci><cn id="alg2.l1.m2.1.1.3.cmml" type="integer" xref="alg2.l1.m2.1.1.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="alg2.l1.m2.1c">y_{0}</annotation><annotation encoding="application/x-llamapun" id="alg2.l1.m2.1d">italic_y start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT</annotation></semantics></math>, feedback <math alttext="y" class="ltx_Math" display="inline" id="alg2.l1.m3.1"><semantics id="alg2.l1.m3.1a"><mi id="alg2.l1.m3.1.1" xref="alg2.l1.m3.1.1.cmml">y</mi><annotation-xml encoding="MathML-Content" id="alg2.l1.m3.1b"><ci id="alg2.l1.m3.1.1.cmml" xref="alg2.l1.m3.1.1">𝑦</ci></annotation-xml><annotation encoding="application/x-tex" id="alg2.l1.m3.1c">y</annotation><annotation encoding="application/x-llamapun" id="alg2.l1.m3.1d">italic_y</annotation></semantics></math> (optional) </div> <div class="ltx_listingline" id="alg2.l2"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l2.1.1.1" style="font-size:80%;">2:</span></span> <span class="ltx_text ltx_font_bold" id="alg2.l2.2">if</span> <math alttext="y" class="ltx_Math" display="inline" id="alg2.l2.m1.1"><semantics id="alg2.l2.m1.1a"><mi id="alg2.l2.m1.1.1" xref="alg2.l2.m1.1.1.cmml">y</mi><annotation-xml encoding="MathML-Content" id="alg2.l2.m1.1b"><ci id="alg2.l2.m1.1.1.cmml" xref="alg2.l2.m1.1.1">𝑦</ci></annotation-xml><annotation encoding="application/x-tex" id="alg2.l2.m1.1c">y</annotation><annotation encoding="application/x-llamapun" id="alg2.l2.m1.1d">italic_y</annotation></semantics></math> is <span class="ltx_text" id="alg2.l2.3">None</span> <span class="ltx_text ltx_font_bold" id="alg2.l2.4">then</span> </div> <div class="ltx_listingline" id="alg2.l3"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l3.1.1.1" style="font-size:80%;">3:</span></span> <math alttext="B\leftarrow x.\text{shape}[0]" class="ltx_Math" display="inline" id="alg2.l3.m1.3"><semantics id="alg2.l3.m1.3a"><mrow id="alg2.l3.m1.3.3.2" xref="alg2.l3.m1.3.3.3.cmml"><mrow id="alg2.l3.m1.2.2.1.1" xref="alg2.l3.m1.2.2.1.1.cmml"><mi id="alg2.l3.m1.2.2.1.1.2" xref="alg2.l3.m1.2.2.1.1.2.cmml">B</mi><mo id="alg2.l3.m1.2.2.1.1.1" stretchy="false" xref="alg2.l3.m1.2.2.1.1.1.cmml">←</mo><mi id="alg2.l3.m1.2.2.1.1.3" xref="alg2.l3.m1.2.2.1.1.3.cmml">x</mi></mrow><mo id="alg2.l3.m1.3.3.2.3" lspace="0em" rspace="0.167em" xref="alg2.l3.m1.3.3.3a.cmml">.</mo><mrow id="alg2.l3.m1.3.3.2.2" xref="alg2.l3.m1.3.3.2.2.cmml"><mtext id="alg2.l3.m1.3.3.2.2.2" xref="alg2.l3.m1.3.3.2.2.2a.cmml">shape</mtext><mo id="alg2.l3.m1.3.3.2.2.1" xref="alg2.l3.m1.3.3.2.2.1.cmml">⁢</mo><mrow id="alg2.l3.m1.3.3.2.2.3.2" xref="alg2.l3.m1.3.3.2.2.3.1.cmml"><mo id="alg2.l3.m1.3.3.2.2.3.2.1" stretchy="false" xref="alg2.l3.m1.3.3.2.2.3.1.1.cmml">[</mo><mn id="alg2.l3.m1.1.1" xref="alg2.l3.m1.1.1.cmml">0</mn><mo id="alg2.l3.m1.3.3.2.2.3.2.2" stretchy="false" xref="alg2.l3.m1.3.3.2.2.3.1.1.cmml">]</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg2.l3.m1.3b"><apply id="alg2.l3.m1.3.3.3.cmml" xref="alg2.l3.m1.3.3.2"><csymbol cd="ambiguous" id="alg2.l3.m1.3.3.3a.cmml" xref="alg2.l3.m1.3.3.2.3">formulae-sequence</csymbol><apply id="alg2.l3.m1.2.2.1.1.cmml" xref="alg2.l3.m1.2.2.1.1"><ci id="alg2.l3.m1.2.2.1.1.1.cmml" xref="alg2.l3.m1.2.2.1.1.1">←</ci><ci id="alg2.l3.m1.2.2.1.1.2.cmml" xref="alg2.l3.m1.2.2.1.1.2">𝐵</ci><ci id="alg2.l3.m1.2.2.1.1.3.cmml" xref="alg2.l3.m1.2.2.1.1.3">𝑥</ci></apply><apply id="alg2.l3.m1.3.3.2.2.cmml" xref="alg2.l3.m1.3.3.2.2"><times id="alg2.l3.m1.3.3.2.2.1.cmml" xref="alg2.l3.m1.3.3.2.2.1"></times><ci id="alg2.l3.m1.3.3.2.2.2a.cmml" xref="alg2.l3.m1.3.3.2.2.2"><mtext id="alg2.l3.m1.3.3.2.2.2.cmml" xref="alg2.l3.m1.3.3.2.2.2">shape</mtext></ci><apply id="alg2.l3.m1.3.3.2.2.3.1.cmml" xref="alg2.l3.m1.3.3.2.2.3.2"><csymbol cd="latexml" id="alg2.l3.m1.3.3.2.2.3.1.1.cmml" xref="alg2.l3.m1.3.3.2.2.3.2.1">delimited-[]</csymbol><cn id="alg2.l3.m1.1.1.cmml" type="integer" xref="alg2.l3.m1.1.1">0</cn></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg2.l3.m1.3c">B\leftarrow x.\text{shape}[0]</annotation><annotation encoding="application/x-llamapun" id="alg2.l3.m1.3d">italic_B ← italic_x . shape [ 0 ]</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg2.l4"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l4.1.1.1" style="font-size:80%;">4:</span></span> <math alttext="y\leftarrow y_{0}\cdot\text{ones}((B,\text{out\_features}))" class="ltx_Math" display="inline" id="alg2.l4.m1.3"><semantics id="alg2.l4.m1.3a"><mrow id="alg2.l4.m1.3.3" xref="alg2.l4.m1.3.3.cmml"><mi id="alg2.l4.m1.3.3.3" xref="alg2.l4.m1.3.3.3.cmml">y</mi><mo id="alg2.l4.m1.3.3.2" stretchy="false" xref="alg2.l4.m1.3.3.2.cmml">←</mo><mrow id="alg2.l4.m1.3.3.1" xref="alg2.l4.m1.3.3.1.cmml"><mrow id="alg2.l4.m1.3.3.1.3" xref="alg2.l4.m1.3.3.1.3.cmml"><msub id="alg2.l4.m1.3.3.1.3.2" xref="alg2.l4.m1.3.3.1.3.2.cmml"><mi id="alg2.l4.m1.3.3.1.3.2.2" xref="alg2.l4.m1.3.3.1.3.2.2.cmml">y</mi><mn id="alg2.l4.m1.3.3.1.3.2.3" xref="alg2.l4.m1.3.3.1.3.2.3.cmml">0</mn></msub><mo id="alg2.l4.m1.3.3.1.3.1" lspace="0.222em" rspace="0.222em" xref="alg2.l4.m1.3.3.1.3.1.cmml">⋅</mo><mtext id="alg2.l4.m1.3.3.1.3.3" xref="alg2.l4.m1.3.3.1.3.3a.cmml">ones</mtext></mrow><mo id="alg2.l4.m1.3.3.1.2" xref="alg2.l4.m1.3.3.1.2.cmml">⁢</mo><mrow id="alg2.l4.m1.3.3.1.1.1" xref="alg2.l4.m1.3.3.1.cmml"><mo id="alg2.l4.m1.3.3.1.1.1.2" stretchy="false" xref="alg2.l4.m1.3.3.1.cmml">(</mo><mrow id="alg2.l4.m1.3.3.1.1.1.1.2" xref="alg2.l4.m1.3.3.1.1.1.1.1.cmml"><mo id="alg2.l4.m1.3.3.1.1.1.1.2.1" stretchy="false" xref="alg2.l4.m1.3.3.1.1.1.1.1.cmml">(</mo><mi id="alg2.l4.m1.1.1" xref="alg2.l4.m1.1.1.cmml">B</mi><mo id="alg2.l4.m1.3.3.1.1.1.1.2.2" xref="alg2.l4.m1.3.3.1.1.1.1.1.cmml">,</mo><mtext id="alg2.l4.m1.2.2" xref="alg2.l4.m1.2.2a.cmml">out_features</mtext><mo id="alg2.l4.m1.3.3.1.1.1.1.2.3" stretchy="false" xref="alg2.l4.m1.3.3.1.1.1.1.1.cmml">)</mo></mrow><mo id="alg2.l4.m1.3.3.1.1.1.3" stretchy="false" xref="alg2.l4.m1.3.3.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg2.l4.m1.3b"><apply id="alg2.l4.m1.3.3.cmml" xref="alg2.l4.m1.3.3"><ci id="alg2.l4.m1.3.3.2.cmml" xref="alg2.l4.m1.3.3.2">←</ci><ci id="alg2.l4.m1.3.3.3.cmml" xref="alg2.l4.m1.3.3.3">𝑦</ci><apply id="alg2.l4.m1.3.3.1.cmml" xref="alg2.l4.m1.3.3.1"><times id="alg2.l4.m1.3.3.1.2.cmml" xref="alg2.l4.m1.3.3.1.2"></times><apply id="alg2.l4.m1.3.3.1.3.cmml" xref="alg2.l4.m1.3.3.1.3"><ci id="alg2.l4.m1.3.3.1.3.1.cmml" xref="alg2.l4.m1.3.3.1.3.1">⋅</ci><apply id="alg2.l4.m1.3.3.1.3.2.cmml" xref="alg2.l4.m1.3.3.1.3.2"><csymbol cd="ambiguous" id="alg2.l4.m1.3.3.1.3.2.1.cmml" xref="alg2.l4.m1.3.3.1.3.2">subscript</csymbol><ci id="alg2.l4.m1.3.3.1.3.2.2.cmml" xref="alg2.l4.m1.3.3.1.3.2.2">𝑦</ci><cn id="alg2.l4.m1.3.3.1.3.2.3.cmml" type="integer" xref="alg2.l4.m1.3.3.1.3.2.3">0</cn></apply><ci id="alg2.l4.m1.3.3.1.3.3a.cmml" xref="alg2.l4.m1.3.3.1.3.3"><mtext id="alg2.l4.m1.3.3.1.3.3.cmml" xref="alg2.l4.m1.3.3.1.3.3">ones</mtext></ci></apply><interval closure="open" id="alg2.l4.m1.3.3.1.1.1.1.1.cmml" xref="alg2.l4.m1.3.3.1.1.1.1.2"><ci id="alg2.l4.m1.1.1.cmml" xref="alg2.l4.m1.1.1">𝐵</ci><ci id="alg2.l4.m1.2.2a.cmml" xref="alg2.l4.m1.2.2"><mtext id="alg2.l4.m1.2.2.cmml" xref="alg2.l4.m1.2.2">out_features</mtext></ci></interval></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg2.l4.m1.3c">y\leftarrow y_{0}\cdot\text{ones}((B,\text{out\_features}))</annotation><annotation encoding="application/x-llamapun" id="alg2.l4.m1.3d">italic_y ← italic_y start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ⋅ ones ( ( italic_B , out_features ) )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg2.l5"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l5.1.1.1" style="font-size:80%;">5:</span></span> <span class="ltx_text ltx_font_bold" id="alg2.l5.2">end</span> <span class="ltx_text ltx_font_bold" id="alg2.l5.3">if</span> </div> <div class="ltx_listingline" id="alg2.l6"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l6.1.1.1" style="font-size:80%;">6:</span></span> <math alttext="x\leftarrow\text{concatenate}([x,y],\text{dim}=1)" class="ltx_Math" display="inline" id="alg2.l6.m1.4"><semantics id="alg2.l6.m1.4a"><mrow id="alg2.l6.m1.4.4" xref="alg2.l6.m1.4.4.cmml"><mi id="alg2.l6.m1.4.4.3" xref="alg2.l6.m1.4.4.3.cmml">x</mi><mo id="alg2.l6.m1.4.4.2" stretchy="false" xref="alg2.l6.m1.4.4.2.cmml">←</mo><mrow id="alg2.l6.m1.4.4.1" xref="alg2.l6.m1.4.4.1.cmml"><mtext id="alg2.l6.m1.4.4.1.3" xref="alg2.l6.m1.4.4.1.3a.cmml">concatenate</mtext><mo id="alg2.l6.m1.4.4.1.2" xref="alg2.l6.m1.4.4.1.2.cmml">⁢</mo><mrow id="alg2.l6.m1.4.4.1.1.1" xref="alg2.l6.m1.4.4.1.1.1.1.cmml"><mo id="alg2.l6.m1.4.4.1.1.1.2" stretchy="false" xref="alg2.l6.m1.4.4.1.1.1.1.cmml">(</mo><mrow id="alg2.l6.m1.4.4.1.1.1.1" xref="alg2.l6.m1.4.4.1.1.1.1.cmml"><mrow id="alg2.l6.m1.4.4.1.1.1.1.1.1" xref="alg2.l6.m1.4.4.1.1.1.1.1.2.cmml"><mrow id="alg2.l6.m1.4.4.1.1.1.1.1.1.1.2" xref="alg2.l6.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mo id="alg2.l6.m1.4.4.1.1.1.1.1.1.1.2.1" stretchy="false" xref="alg2.l6.m1.4.4.1.1.1.1.1.1.1.1.cmml">[</mo><mi id="alg2.l6.m1.1.1" xref="alg2.l6.m1.1.1.cmml">x</mi><mo id="alg2.l6.m1.4.4.1.1.1.1.1.1.1.2.2" xref="alg2.l6.m1.4.4.1.1.1.1.1.1.1.1.cmml">,</mo><mi id="alg2.l6.m1.2.2" xref="alg2.l6.m1.2.2.cmml">y</mi><mo id="alg2.l6.m1.4.4.1.1.1.1.1.1.1.2.3" stretchy="false" xref="alg2.l6.m1.4.4.1.1.1.1.1.1.1.1.cmml">]</mo></mrow><mo id="alg2.l6.m1.4.4.1.1.1.1.1.1.2" xref="alg2.l6.m1.4.4.1.1.1.1.1.2.cmml">,</mo><mtext id="alg2.l6.m1.3.3" xref="alg2.l6.m1.3.3a.cmml">dim</mtext></mrow><mo id="alg2.l6.m1.4.4.1.1.1.1.2" xref="alg2.l6.m1.4.4.1.1.1.1.2.cmml">=</mo><mn id="alg2.l6.m1.4.4.1.1.1.1.3" xref="alg2.l6.m1.4.4.1.1.1.1.3.cmml">1</mn></mrow><mo id="alg2.l6.m1.4.4.1.1.1.3" stretchy="false" xref="alg2.l6.m1.4.4.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg2.l6.m1.4b"><apply id="alg2.l6.m1.4.4.cmml" xref="alg2.l6.m1.4.4"><ci id="alg2.l6.m1.4.4.2.cmml" xref="alg2.l6.m1.4.4.2">←</ci><ci id="alg2.l6.m1.4.4.3.cmml" xref="alg2.l6.m1.4.4.3">𝑥</ci><apply id="alg2.l6.m1.4.4.1.cmml" xref="alg2.l6.m1.4.4.1"><times id="alg2.l6.m1.4.4.1.2.cmml" xref="alg2.l6.m1.4.4.1.2"></times><ci id="alg2.l6.m1.4.4.1.3a.cmml" xref="alg2.l6.m1.4.4.1.3"><mtext id="alg2.l6.m1.4.4.1.3.cmml" xref="alg2.l6.m1.4.4.1.3">concatenate</mtext></ci><apply id="alg2.l6.m1.4.4.1.1.1.1.cmml" xref="alg2.l6.m1.4.4.1.1.1"><eq id="alg2.l6.m1.4.4.1.1.1.1.2.cmml" xref="alg2.l6.m1.4.4.1.1.1.1.2"></eq><list id="alg2.l6.m1.4.4.1.1.1.1.1.2.cmml" xref="alg2.l6.m1.4.4.1.1.1.1.1.1"><interval closure="closed" id="alg2.l6.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="alg2.l6.m1.4.4.1.1.1.1.1.1.1.2"><ci id="alg2.l6.m1.1.1.cmml" xref="alg2.l6.m1.1.1">𝑥</ci><ci id="alg2.l6.m1.2.2.cmml" xref="alg2.l6.m1.2.2">𝑦</ci></interval><ci id="alg2.l6.m1.3.3a.cmml" xref="alg2.l6.m1.3.3"><mtext id="alg2.l6.m1.3.3.cmml" xref="alg2.l6.m1.3.3">dim</mtext></ci></list><cn id="alg2.l6.m1.4.4.1.1.1.1.3.cmml" type="integer" xref="alg2.l6.m1.4.4.1.1.1.1.3">1</cn></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg2.l6.m1.4c">x\leftarrow\text{concatenate}([x,y],\text{dim}=1)</annotation><annotation encoding="application/x-llamapun" id="alg2.l6.m1.4d">italic_x ← concatenate ( [ italic_x , italic_y ] , dim = 1 )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg2.l7"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l7.1.1.1" style="font-size:80%;">7:</span></span> <math alttext="x\leftarrow\text{input}(x)" class="ltx_Math" display="inline" id="alg2.l7.m1.1"><semantics id="alg2.l7.m1.1a"><mrow id="alg2.l7.m1.1.2" xref="alg2.l7.m1.1.2.cmml"><mi id="alg2.l7.m1.1.2.2" xref="alg2.l7.m1.1.2.2.cmml">x</mi><mo id="alg2.l7.m1.1.2.1" stretchy="false" xref="alg2.l7.m1.1.2.1.cmml">←</mo><mrow id="alg2.l7.m1.1.2.3" xref="alg2.l7.m1.1.2.3.cmml"><mtext id="alg2.l7.m1.1.2.3.2" xref="alg2.l7.m1.1.2.3.2a.cmml">input</mtext><mo id="alg2.l7.m1.1.2.3.1" xref="alg2.l7.m1.1.2.3.1.cmml">⁢</mo><mrow id="alg2.l7.m1.1.2.3.3.2" xref="alg2.l7.m1.1.2.3.cmml"><mo id="alg2.l7.m1.1.2.3.3.2.1" stretchy="false" xref="alg2.l7.m1.1.2.3.cmml">(</mo><mi id="alg2.l7.m1.1.1" xref="alg2.l7.m1.1.1.cmml">x</mi><mo id="alg2.l7.m1.1.2.3.3.2.2" stretchy="false" xref="alg2.l7.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg2.l7.m1.1b"><apply id="alg2.l7.m1.1.2.cmml" xref="alg2.l7.m1.1.2"><ci id="alg2.l7.m1.1.2.1.cmml" xref="alg2.l7.m1.1.2.1">←</ci><ci id="alg2.l7.m1.1.2.2.cmml" xref="alg2.l7.m1.1.2.2">𝑥</ci><apply id="alg2.l7.m1.1.2.3.cmml" xref="alg2.l7.m1.1.2.3"><times id="alg2.l7.m1.1.2.3.1.cmml" xref="alg2.l7.m1.1.2.3.1"></times><ci id="alg2.l7.m1.1.2.3.2a.cmml" xref="alg2.l7.m1.1.2.3.2"><mtext id="alg2.l7.m1.1.2.3.2.cmml" xref="alg2.l7.m1.1.2.3.2">input</mtext></ci><ci id="alg2.l7.m1.1.1.cmml" xref="alg2.l7.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg2.l7.m1.1c">x\leftarrow\text{input}(x)</annotation><annotation encoding="application/x-llamapun" id="alg2.l7.m1.1d">italic_x ← input ( italic_x )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg2.l8"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l8.1.1.1" style="font-size:80%;">8:</span></span> <math alttext="x\leftarrow\text{hidden}(x)" class="ltx_Math" display="inline" id="alg2.l8.m1.1"><semantics id="alg2.l8.m1.1a"><mrow id="alg2.l8.m1.1.2" xref="alg2.l8.m1.1.2.cmml"><mi id="alg2.l8.m1.1.2.2" xref="alg2.l8.m1.1.2.2.cmml">x</mi><mo id="alg2.l8.m1.1.2.1" stretchy="false" xref="alg2.l8.m1.1.2.1.cmml">←</mo><mrow id="alg2.l8.m1.1.2.3" xref="alg2.l8.m1.1.2.3.cmml"><mtext id="alg2.l8.m1.1.2.3.2" xref="alg2.l8.m1.1.2.3.2a.cmml">hidden</mtext><mo id="alg2.l8.m1.1.2.3.1" xref="alg2.l8.m1.1.2.3.1.cmml">⁢</mo><mrow id="alg2.l8.m1.1.2.3.3.2" xref="alg2.l8.m1.1.2.3.cmml"><mo id="alg2.l8.m1.1.2.3.3.2.1" stretchy="false" xref="alg2.l8.m1.1.2.3.cmml">(</mo><mi id="alg2.l8.m1.1.1" xref="alg2.l8.m1.1.1.cmml">x</mi><mo id="alg2.l8.m1.1.2.3.3.2.2" stretchy="false" xref="alg2.l8.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg2.l8.m1.1b"><apply id="alg2.l8.m1.1.2.cmml" xref="alg2.l8.m1.1.2"><ci id="alg2.l8.m1.1.2.1.cmml" xref="alg2.l8.m1.1.2.1">←</ci><ci id="alg2.l8.m1.1.2.2.cmml" xref="alg2.l8.m1.1.2.2">𝑥</ci><apply id="alg2.l8.m1.1.2.3.cmml" xref="alg2.l8.m1.1.2.3"><times id="alg2.l8.m1.1.2.3.1.cmml" xref="alg2.l8.m1.1.2.3.1"></times><ci id="alg2.l8.m1.1.2.3.2a.cmml" xref="alg2.l8.m1.1.2.3.2"><mtext id="alg2.l8.m1.1.2.3.2.cmml" xref="alg2.l8.m1.1.2.3.2">hidden</mtext></ci><ci id="alg2.l8.m1.1.1.cmml" xref="alg2.l8.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg2.l8.m1.1c">x\leftarrow\text{hidden}(x)</annotation><annotation encoding="application/x-llamapun" id="alg2.l8.m1.1d">italic_x ← hidden ( italic_x )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg2.l9"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg2.l9.1.1.1" style="font-size:80%;">9:</span></span> <span class="ltx_text ltx_font_bold" id="alg2.l9.2">Return:</span> <math alttext="\text{output}(x)" class="ltx_Math" display="inline" id="alg2.l9.m1.1"><semantics id="alg2.l9.m1.1a"><mrow id="alg2.l9.m1.1.2" xref="alg2.l9.m1.1.2.cmml"><mtext id="alg2.l9.m1.1.2.2" xref="alg2.l9.m1.1.2.2a.cmml">output</mtext><mo id="alg2.l9.m1.1.2.1" xref="alg2.l9.m1.1.2.1.cmml">⁢</mo><mrow id="alg2.l9.m1.1.2.3.2" xref="alg2.l9.m1.1.2.cmml"><mo id="alg2.l9.m1.1.2.3.2.1" stretchy="false" xref="alg2.l9.m1.1.2.cmml">(</mo><mi id="alg2.l9.m1.1.1" xref="alg2.l9.m1.1.1.cmml">x</mi><mo id="alg2.l9.m1.1.2.3.2.2" stretchy="false" xref="alg2.l9.m1.1.2.cmml">)</mo></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg2.l9.m1.1b"><apply id="alg2.l9.m1.1.2.cmml" xref="alg2.l9.m1.1.2"><times id="alg2.l9.m1.1.2.1.cmml" xref="alg2.l9.m1.1.2.1"></times><ci id="alg2.l9.m1.1.2.2a.cmml" xref="alg2.l9.m1.1.2.2"><mtext id="alg2.l9.m1.1.2.2.cmml" xref="alg2.l9.m1.1.2.2">output</mtext></ci><ci id="alg2.l9.m1.1.1.cmml" xref="alg2.l9.m1.1.1">𝑥</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="alg2.l9.m1.1c">\text{output}(x)</annotation><annotation encoding="application/x-llamapun" id="alg2.l9.m1.1d">output ( italic_x )</annotation></semantics></math> </div> </div> </figure> <div class="ltx_para" id="A3.p2"> <p class="ltx_p" id="A3.p2.1">Having to fine tune the value of <math alttext="y_{0}" class="ltx_Math" display="inline" id="A3.p2.1.m1.1"><semantics id="A3.p2.1.m1.1a"><msub id="A3.p2.1.m1.1.1" xref="A3.p2.1.m1.1.1.cmml"><mi id="A3.p2.1.m1.1.1.2" xref="A3.p2.1.m1.1.1.2.cmml">y</mi><mn id="A3.p2.1.m1.1.1.3" xref="A3.p2.1.m1.1.1.3.cmml">0</mn></msub><annotation-xml encoding="MathML-Content" id="A3.p2.1.m1.1b"><apply id="A3.p2.1.m1.1.1.cmml" xref="A3.p2.1.m1.1.1"><csymbol cd="ambiguous" id="A3.p2.1.m1.1.1.1.cmml" xref="A3.p2.1.m1.1.1">subscript</csymbol><ci id="A3.p2.1.m1.1.1.2.cmml" xref="A3.p2.1.m1.1.1.2">𝑦</ci><cn id="A3.p2.1.m1.1.1.3.cmml" type="integer" xref="A3.p2.1.m1.1.1.3">0</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A3.p2.1.m1.1c">y_{0}</annotation><annotation encoding="application/x-llamapun" id="A3.p2.1.m1.1d">italic_y start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT</annotation></semantics></math> can be avoided by modifying the network by setting all the weight connected to the feedback neurons to 0, as shown in Alg <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#alg3" title="Algorithm 3 ‣ Appendix C Outline of the necessary model modifications ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">3</span></a>.</p> </div> <figure class="ltx_float ltx_float_algorithm ltx_framed ltx_framed_top" id="alg3"> <figcaption class="ltx_caption"><span class="ltx_tag ltx_tag_float"><span class="ltx_text ltx_font_bold" id="alg3.2.1.1">Algorithm 3</span> </span> Modified inference, no constant</figcaption> <div class="ltx_listing ltx_listing" id="alg3.3"> <div class="ltx_listingline" id="alg3.l1"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l1.1.1.1" style="font-size:80%;">1:</span></span> <span class="ltx_text ltx_font_bold" id="alg3.l1.2">Input:</span> input <math alttext="x" class="ltx_Math" display="inline" id="alg3.l1.m1.1"><semantics id="alg3.l1.m1.1a"><mi id="alg3.l1.m1.1.1" xref="alg3.l1.m1.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="alg3.l1.m1.1b"><ci id="alg3.l1.m1.1.1.cmml" xref="alg3.l1.m1.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="alg3.l1.m1.1c">x</annotation><annotation encoding="application/x-llamapun" id="alg3.l1.m1.1d">italic_x</annotation></semantics></math>, feedback <math alttext="y" class="ltx_Math" display="inline" id="alg3.l1.m2.1"><semantics id="alg3.l1.m2.1a"><mi id="alg3.l1.m2.1.1" xref="alg3.l1.m2.1.1.cmml">y</mi><annotation-xml encoding="MathML-Content" id="alg3.l1.m2.1b"><ci id="alg3.l1.m2.1.1.cmml" xref="alg3.l1.m2.1.1">𝑦</ci></annotation-xml><annotation encoding="application/x-tex" id="alg3.l1.m2.1c">y</annotation><annotation encoding="application/x-llamapun" id="alg3.l1.m2.1d">italic_y</annotation></semantics></math> (optional) </div> <div class="ltx_listingline" id="alg3.l2"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l2.1.1.1" style="font-size:80%;">2:</span></span> <math alttext="\text{feedback}\leftarrow\text{False}" class="ltx_Math" display="inline" id="alg3.l2.m1.1"><semantics id="alg3.l2.m1.1a"><mrow id="alg3.l2.m1.1.1" xref="alg3.l2.m1.1.1.cmml"><mtext id="alg3.l2.m1.1.1.2" xref="alg3.l2.m1.1.1.2a.cmml">feedback</mtext><mo id="alg3.l2.m1.1.1.1" stretchy="false" xref="alg3.l2.m1.1.1.1.cmml">←</mo><mtext id="alg3.l2.m1.1.1.3" xref="alg3.l2.m1.1.1.3a.cmml">False</mtext></mrow><annotation-xml encoding="MathML-Content" id="alg3.l2.m1.1b"><apply id="alg3.l2.m1.1.1.cmml" xref="alg3.l2.m1.1.1"><ci id="alg3.l2.m1.1.1.1.cmml" xref="alg3.l2.m1.1.1.1">←</ci><ci id="alg3.l2.m1.1.1.2a.cmml" xref="alg3.l2.m1.1.1.2"><mtext id="alg3.l2.m1.1.1.2.cmml" xref="alg3.l2.m1.1.1.2">feedback</mtext></ci><ci id="alg3.l2.m1.1.1.3a.cmml" xref="alg3.l2.m1.1.1.3"><mtext id="alg3.l2.m1.1.1.3.cmml" xref="alg3.l2.m1.1.1.3">False</mtext></ci></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l2.m1.1c">\text{feedback}\leftarrow\text{False}</annotation><annotation encoding="application/x-llamapun" id="alg3.l2.m1.1d">feedback ← False</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l3"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l3.1.1.1" style="font-size:80%;">3:</span></span> <span class="ltx_text ltx_font_bold" id="alg3.l3.2">if</span> <math alttext="y" class="ltx_Math" display="inline" id="alg3.l3.m1.1"><semantics id="alg3.l3.m1.1a"><mi id="alg3.l3.m1.1.1" xref="alg3.l3.m1.1.1.cmml">y</mi><annotation-xml encoding="MathML-Content" id="alg3.l3.m1.1b"><ci id="alg3.l3.m1.1.1.cmml" xref="alg3.l3.m1.1.1">𝑦</ci></annotation-xml><annotation encoding="application/x-tex" id="alg3.l3.m1.1c">y</annotation><annotation encoding="application/x-llamapun" id="alg3.l3.m1.1d">italic_y</annotation></semantics></math> is <span class="ltx_text" id="alg3.l3.3">None</span> <span class="ltx_text ltx_font_bold" id="alg3.l3.4">then</span> </div> <div class="ltx_listingline" id="alg3.l4"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l4.2.1.1" style="font-size:80%;">4:</span></span> <span class="ltx_text" id="alg3.l4.1" style="color:#808080;"> # drop weights connected to <math alttext="y" class="ltx_Math" display="inline" id="alg3.l4.1.m1.1"><semantics id="alg3.l4.1.m1.1a"><mi id="alg3.l4.1.m1.1.1" mathcolor="#808080" xref="alg3.l4.1.m1.1.1.cmml">y</mi><annotation-xml encoding="MathML-Content" id="alg3.l4.1.m1.1b"><ci id="alg3.l4.1.m1.1.1.cmml" xref="alg3.l4.1.m1.1.1">𝑦</ci></annotation-xml><annotation encoding="application/x-tex" id="alg3.l4.1.m1.1c">y</annotation><annotation encoding="application/x-llamapun" id="alg3.l4.1.m1.1d">italic_y</annotation></semantics></math></span> </div> <div class="ltx_listingline" id="alg3.l5"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l5.1.1.1" style="font-size:80%;">5:</span></span> <math alttext="\text{feedback}\leftarrow\text{True}" class="ltx_Math" display="inline" id="alg3.l5.m1.1"><semantics id="alg3.l5.m1.1a"><mrow id="alg3.l5.m1.1.1" xref="alg3.l5.m1.1.1.cmml"><mtext id="alg3.l5.m1.1.1.2" xref="alg3.l5.m1.1.1.2a.cmml">feedback</mtext><mo id="alg3.l5.m1.1.1.1" stretchy="false" xref="alg3.l5.m1.1.1.1.cmml">←</mo><mtext id="alg3.l5.m1.1.1.3" xref="alg3.l5.m1.1.1.3a.cmml">True</mtext></mrow><annotation-xml encoding="MathML-Content" id="alg3.l5.m1.1b"><apply id="alg3.l5.m1.1.1.cmml" xref="alg3.l5.m1.1.1"><ci id="alg3.l5.m1.1.1.1.cmml" xref="alg3.l5.m1.1.1.1">←</ci><ci id="alg3.l5.m1.1.1.2a.cmml" xref="alg3.l5.m1.1.1.2"><mtext id="alg3.l5.m1.1.1.2.cmml" xref="alg3.l5.m1.1.1.2">feedback</mtext></ci><ci id="alg3.l5.m1.1.1.3a.cmml" xref="alg3.l5.m1.1.1.3"><mtext id="alg3.l5.m1.1.1.3.cmml" xref="alg3.l5.m1.1.1.3">True</mtext></ci></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l5.m1.1c">\text{feedback}\leftarrow\text{True}</annotation><annotation encoding="application/x-llamapun" id="alg3.l5.m1.1d">feedback ← True</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l6"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l6.1.1.1" style="font-size:80%;">6:</span></span> <math alttext="\text{original\_weight}\leftarrow\text{copy(input\_layer.weight))}" class="ltx_Math" display="inline" id="alg3.l6.m1.1"><semantics id="alg3.l6.m1.1a"><mrow id="alg3.l6.m1.1.1" xref="alg3.l6.m1.1.1.cmml"><mtext id="alg3.l6.m1.1.1.2" xref="alg3.l6.m1.1.1.2a.cmml">original_weight</mtext><mo id="alg3.l6.m1.1.1.1" stretchy="false" xref="alg3.l6.m1.1.1.1.cmml">←</mo><mtext id="alg3.l6.m1.1.1.3" xref="alg3.l6.m1.1.1.3a.cmml">copy(input_layer.weight))</mtext></mrow><annotation-xml encoding="MathML-Content" id="alg3.l6.m1.1b"><apply id="alg3.l6.m1.1.1.cmml" xref="alg3.l6.m1.1.1"><ci id="alg3.l6.m1.1.1.1.cmml" xref="alg3.l6.m1.1.1.1">←</ci><ci id="alg3.l6.m1.1.1.2a.cmml" xref="alg3.l6.m1.1.1.2"><mtext id="alg3.l6.m1.1.1.2.cmml" xref="alg3.l6.m1.1.1.2">original_weight</mtext></ci><ci id="alg3.l6.m1.1.1.3a.cmml" xref="alg3.l6.m1.1.1.3"><mtext id="alg3.l6.m1.1.1.3.cmml" xref="alg3.l6.m1.1.1.3">copy(input_layer.weight))</mtext></ci></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l6.m1.1c">\text{original\_weight}\leftarrow\text{copy(input\_layer.weight))}</annotation><annotation encoding="application/x-llamapun" id="alg3.l6.m1.1d">original_weight ← copy(input_layer.weight))</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l7"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l7.1.1.1" style="font-size:80%;">7:</span></span> <math alttext="\text{input\_layer.weight}\leftarrow\text{drop\_weights(input\_layer.weight)}" class="ltx_Math" display="inline" id="alg3.l7.m1.1"><semantics id="alg3.l7.m1.1a"><mrow id="alg3.l7.m1.1.1" xref="alg3.l7.m1.1.1.cmml"><mtext id="alg3.l7.m1.1.1.2" xref="alg3.l7.m1.1.1.2a.cmml">input_layer.weight</mtext><mo id="alg3.l7.m1.1.1.1" stretchy="false" xref="alg3.l7.m1.1.1.1.cmml">←</mo><mtext id="alg3.l7.m1.1.1.3" xref="alg3.l7.m1.1.1.3a.cmml">drop_weights(input_layer.weight)</mtext></mrow><annotation-xml encoding="MathML-Content" id="alg3.l7.m1.1b"><apply id="alg3.l7.m1.1.1.cmml" xref="alg3.l7.m1.1.1"><ci id="alg3.l7.m1.1.1.1.cmml" xref="alg3.l7.m1.1.1.1">←</ci><ci id="alg3.l7.m1.1.1.2a.cmml" xref="alg3.l7.m1.1.1.2"><mtext id="alg3.l7.m1.1.1.2.cmml" xref="alg3.l7.m1.1.1.2">input_layer.weight</mtext></ci><ci id="alg3.l7.m1.1.1.3a.cmml" xref="alg3.l7.m1.1.1.3"><mtext id="alg3.l7.m1.1.1.3.cmml" xref="alg3.l7.m1.1.1.3">drop_weights(input_layer.weight)</mtext></ci></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l7.m1.1c">\text{input\_layer.weight}\leftarrow\text{drop\_weights(input\_layer.weight)}</annotation><annotation encoding="application/x-llamapun" id="alg3.l7.m1.1d">input_layer.weight ← drop_weights(input_layer.weight)</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l8"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l8.1.1.1" style="font-size:80%;">8:</span></span> <span class="ltx_text ltx_font_bold" id="alg3.l8.2">end</span> <span class="ltx_text ltx_font_bold" id="alg3.l8.3">if</span> </div> <div class="ltx_listingline" id="alg3.l9"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l9.1.1.1" style="font-size:80%;">9:</span></span> <math alttext="x\leftarrow\text{concatenate}([x,y],\text{dim}=1)" class="ltx_Math" display="inline" id="alg3.l9.m1.4"><semantics id="alg3.l9.m1.4a"><mrow id="alg3.l9.m1.4.4" xref="alg3.l9.m1.4.4.cmml"><mi id="alg3.l9.m1.4.4.3" xref="alg3.l9.m1.4.4.3.cmml">x</mi><mo id="alg3.l9.m1.4.4.2" stretchy="false" xref="alg3.l9.m1.4.4.2.cmml">←</mo><mrow id="alg3.l9.m1.4.4.1" xref="alg3.l9.m1.4.4.1.cmml"><mtext id="alg3.l9.m1.4.4.1.3" xref="alg3.l9.m1.4.4.1.3a.cmml">concatenate</mtext><mo id="alg3.l9.m1.4.4.1.2" xref="alg3.l9.m1.4.4.1.2.cmml">⁢</mo><mrow id="alg3.l9.m1.4.4.1.1.1" xref="alg3.l9.m1.4.4.1.1.1.1.cmml"><mo id="alg3.l9.m1.4.4.1.1.1.2" stretchy="false" xref="alg3.l9.m1.4.4.1.1.1.1.cmml">(</mo><mrow id="alg3.l9.m1.4.4.1.1.1.1" xref="alg3.l9.m1.4.4.1.1.1.1.cmml"><mrow id="alg3.l9.m1.4.4.1.1.1.1.1.1" xref="alg3.l9.m1.4.4.1.1.1.1.1.2.cmml"><mrow id="alg3.l9.m1.4.4.1.1.1.1.1.1.1.2" xref="alg3.l9.m1.4.4.1.1.1.1.1.1.1.1.cmml"><mo id="alg3.l9.m1.4.4.1.1.1.1.1.1.1.2.1" stretchy="false" xref="alg3.l9.m1.4.4.1.1.1.1.1.1.1.1.cmml">[</mo><mi id="alg3.l9.m1.1.1" xref="alg3.l9.m1.1.1.cmml">x</mi><mo id="alg3.l9.m1.4.4.1.1.1.1.1.1.1.2.2" xref="alg3.l9.m1.4.4.1.1.1.1.1.1.1.1.cmml">,</mo><mi id="alg3.l9.m1.2.2" xref="alg3.l9.m1.2.2.cmml">y</mi><mo id="alg3.l9.m1.4.4.1.1.1.1.1.1.1.2.3" stretchy="false" xref="alg3.l9.m1.4.4.1.1.1.1.1.1.1.1.cmml">]</mo></mrow><mo id="alg3.l9.m1.4.4.1.1.1.1.1.1.2" xref="alg3.l9.m1.4.4.1.1.1.1.1.2.cmml">,</mo><mtext id="alg3.l9.m1.3.3" xref="alg3.l9.m1.3.3a.cmml">dim</mtext></mrow><mo id="alg3.l9.m1.4.4.1.1.1.1.2" xref="alg3.l9.m1.4.4.1.1.1.1.2.cmml">=</mo><mn id="alg3.l9.m1.4.4.1.1.1.1.3" xref="alg3.l9.m1.4.4.1.1.1.1.3.cmml">1</mn></mrow><mo id="alg3.l9.m1.4.4.1.1.1.3" stretchy="false" xref="alg3.l9.m1.4.4.1.1.1.1.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg3.l9.m1.4b"><apply id="alg3.l9.m1.4.4.cmml" xref="alg3.l9.m1.4.4"><ci id="alg3.l9.m1.4.4.2.cmml" xref="alg3.l9.m1.4.4.2">←</ci><ci id="alg3.l9.m1.4.4.3.cmml" xref="alg3.l9.m1.4.4.3">𝑥</ci><apply id="alg3.l9.m1.4.4.1.cmml" xref="alg3.l9.m1.4.4.1"><times id="alg3.l9.m1.4.4.1.2.cmml" xref="alg3.l9.m1.4.4.1.2"></times><ci id="alg3.l9.m1.4.4.1.3a.cmml" xref="alg3.l9.m1.4.4.1.3"><mtext id="alg3.l9.m1.4.4.1.3.cmml" xref="alg3.l9.m1.4.4.1.3">concatenate</mtext></ci><apply id="alg3.l9.m1.4.4.1.1.1.1.cmml" xref="alg3.l9.m1.4.4.1.1.1"><eq id="alg3.l9.m1.4.4.1.1.1.1.2.cmml" xref="alg3.l9.m1.4.4.1.1.1.1.2"></eq><list id="alg3.l9.m1.4.4.1.1.1.1.1.2.cmml" xref="alg3.l9.m1.4.4.1.1.1.1.1.1"><interval closure="closed" id="alg3.l9.m1.4.4.1.1.1.1.1.1.1.1.cmml" xref="alg3.l9.m1.4.4.1.1.1.1.1.1.1.2"><ci id="alg3.l9.m1.1.1.cmml" xref="alg3.l9.m1.1.1">𝑥</ci><ci id="alg3.l9.m1.2.2.cmml" xref="alg3.l9.m1.2.2">𝑦</ci></interval><ci id="alg3.l9.m1.3.3a.cmml" xref="alg3.l9.m1.3.3"><mtext id="alg3.l9.m1.3.3.cmml" xref="alg3.l9.m1.3.3">dim</mtext></ci></list><cn id="alg3.l9.m1.4.4.1.1.1.1.3.cmml" type="integer" xref="alg3.l9.m1.4.4.1.1.1.1.3">1</cn></apply></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l9.m1.4c">x\leftarrow\text{concatenate}([x,y],\text{dim}=1)</annotation><annotation encoding="application/x-llamapun" id="alg3.l9.m1.4d">italic_x ← concatenate ( [ italic_x , italic_y ] , dim = 1 )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l10"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l10.1.1.1" style="font-size:80%;">10:</span></span> <math alttext="x\leftarrow\text{input}(x)" class="ltx_Math" display="inline" id="alg3.l10.m1.1"><semantics id="alg3.l10.m1.1a"><mrow id="alg3.l10.m1.1.2" xref="alg3.l10.m1.1.2.cmml"><mi id="alg3.l10.m1.1.2.2" xref="alg3.l10.m1.1.2.2.cmml">x</mi><mo id="alg3.l10.m1.1.2.1" stretchy="false" xref="alg3.l10.m1.1.2.1.cmml">←</mo><mrow id="alg3.l10.m1.1.2.3" xref="alg3.l10.m1.1.2.3.cmml"><mtext id="alg3.l10.m1.1.2.3.2" xref="alg3.l10.m1.1.2.3.2a.cmml">input</mtext><mo id="alg3.l10.m1.1.2.3.1" xref="alg3.l10.m1.1.2.3.1.cmml">⁢</mo><mrow id="alg3.l10.m1.1.2.3.3.2" xref="alg3.l10.m1.1.2.3.cmml"><mo id="alg3.l10.m1.1.2.3.3.2.1" stretchy="false" xref="alg3.l10.m1.1.2.3.cmml">(</mo><mi id="alg3.l10.m1.1.1" xref="alg3.l10.m1.1.1.cmml">x</mi><mo id="alg3.l10.m1.1.2.3.3.2.2" stretchy="false" xref="alg3.l10.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg3.l10.m1.1b"><apply id="alg3.l10.m1.1.2.cmml" xref="alg3.l10.m1.1.2"><ci id="alg3.l10.m1.1.2.1.cmml" xref="alg3.l10.m1.1.2.1">←</ci><ci id="alg3.l10.m1.1.2.2.cmml" xref="alg3.l10.m1.1.2.2">𝑥</ci><apply id="alg3.l10.m1.1.2.3.cmml" xref="alg3.l10.m1.1.2.3"><times id="alg3.l10.m1.1.2.3.1.cmml" xref="alg3.l10.m1.1.2.3.1"></times><ci id="alg3.l10.m1.1.2.3.2a.cmml" xref="alg3.l10.m1.1.2.3.2"><mtext id="alg3.l10.m1.1.2.3.2.cmml" xref="alg3.l10.m1.1.2.3.2">input</mtext></ci><ci id="alg3.l10.m1.1.1.cmml" xref="alg3.l10.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l10.m1.1c">x\leftarrow\text{input}(x)</annotation><annotation encoding="application/x-llamapun" id="alg3.l10.m1.1d">italic_x ← input ( italic_x )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l11"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l11.1.1.1" style="font-size:80%;">11:</span></span> <math alttext="x\leftarrow\text{hidden}(x)" class="ltx_Math" display="inline" id="alg3.l11.m1.1"><semantics id="alg3.l11.m1.1a"><mrow id="alg3.l11.m1.1.2" xref="alg3.l11.m1.1.2.cmml"><mi id="alg3.l11.m1.1.2.2" xref="alg3.l11.m1.1.2.2.cmml">x</mi><mo id="alg3.l11.m1.1.2.1" stretchy="false" xref="alg3.l11.m1.1.2.1.cmml">←</mo><mrow id="alg3.l11.m1.1.2.3" xref="alg3.l11.m1.1.2.3.cmml"><mtext id="alg3.l11.m1.1.2.3.2" xref="alg3.l11.m1.1.2.3.2a.cmml">hidden</mtext><mo id="alg3.l11.m1.1.2.3.1" xref="alg3.l11.m1.1.2.3.1.cmml">⁢</mo><mrow id="alg3.l11.m1.1.2.3.3.2" xref="alg3.l11.m1.1.2.3.cmml"><mo id="alg3.l11.m1.1.2.3.3.2.1" stretchy="false" xref="alg3.l11.m1.1.2.3.cmml">(</mo><mi id="alg3.l11.m1.1.1" xref="alg3.l11.m1.1.1.cmml">x</mi><mo id="alg3.l11.m1.1.2.3.3.2.2" stretchy="false" xref="alg3.l11.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg3.l11.m1.1b"><apply id="alg3.l11.m1.1.2.cmml" xref="alg3.l11.m1.1.2"><ci id="alg3.l11.m1.1.2.1.cmml" xref="alg3.l11.m1.1.2.1">←</ci><ci id="alg3.l11.m1.1.2.2.cmml" xref="alg3.l11.m1.1.2.2">𝑥</ci><apply id="alg3.l11.m1.1.2.3.cmml" xref="alg3.l11.m1.1.2.3"><times id="alg3.l11.m1.1.2.3.1.cmml" xref="alg3.l11.m1.1.2.3.1"></times><ci id="alg3.l11.m1.1.2.3.2a.cmml" xref="alg3.l11.m1.1.2.3.2"><mtext id="alg3.l11.m1.1.2.3.2.cmml" xref="alg3.l11.m1.1.2.3.2">hidden</mtext></ci><ci id="alg3.l11.m1.1.1.cmml" xref="alg3.l11.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l11.m1.1c">x\leftarrow\text{hidden}(x)</annotation><annotation encoding="application/x-llamapun" id="alg3.l11.m1.1d">italic_x ← hidden ( italic_x )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l12"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l12.1.1.1" style="font-size:80%;">12:</span></span> <math alttext="x\leftarrow\text{output}(x)" class="ltx_Math" display="inline" id="alg3.l12.m1.1"><semantics id="alg3.l12.m1.1a"><mrow id="alg3.l12.m1.1.2" xref="alg3.l12.m1.1.2.cmml"><mi id="alg3.l12.m1.1.2.2" xref="alg3.l12.m1.1.2.2.cmml">x</mi><mo id="alg3.l12.m1.1.2.1" stretchy="false" xref="alg3.l12.m1.1.2.1.cmml">←</mo><mrow id="alg3.l12.m1.1.2.3" xref="alg3.l12.m1.1.2.3.cmml"><mtext id="alg3.l12.m1.1.2.3.2" xref="alg3.l12.m1.1.2.3.2a.cmml">output</mtext><mo id="alg3.l12.m1.1.2.3.1" xref="alg3.l12.m1.1.2.3.1.cmml">⁢</mo><mrow id="alg3.l12.m1.1.2.3.3.2" xref="alg3.l12.m1.1.2.3.cmml"><mo id="alg3.l12.m1.1.2.3.3.2.1" stretchy="false" xref="alg3.l12.m1.1.2.3.cmml">(</mo><mi id="alg3.l12.m1.1.1" xref="alg3.l12.m1.1.1.cmml">x</mi><mo id="alg3.l12.m1.1.2.3.3.2.2" stretchy="false" xref="alg3.l12.m1.1.2.3.cmml">)</mo></mrow></mrow></mrow><annotation-xml encoding="MathML-Content" id="alg3.l12.m1.1b"><apply id="alg3.l12.m1.1.2.cmml" xref="alg3.l12.m1.1.2"><ci id="alg3.l12.m1.1.2.1.cmml" xref="alg3.l12.m1.1.2.1">←</ci><ci id="alg3.l12.m1.1.2.2.cmml" xref="alg3.l12.m1.1.2.2">𝑥</ci><apply id="alg3.l12.m1.1.2.3.cmml" xref="alg3.l12.m1.1.2.3"><times id="alg3.l12.m1.1.2.3.1.cmml" xref="alg3.l12.m1.1.2.3.1"></times><ci id="alg3.l12.m1.1.2.3.2a.cmml" xref="alg3.l12.m1.1.2.3.2"><mtext id="alg3.l12.m1.1.2.3.2.cmml" xref="alg3.l12.m1.1.2.3.2">output</mtext></ci><ci id="alg3.l12.m1.1.1.cmml" xref="alg3.l12.m1.1.1">𝑥</ci></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l12.m1.1c">x\leftarrow\text{output}(x)</annotation><annotation encoding="application/x-llamapun" id="alg3.l12.m1.1d">italic_x ← output ( italic_x )</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l13"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l13.1.1.1" style="font-size:80%;">13:</span></span> <span class="ltx_text ltx_font_bold" id="alg3.l13.2">if</span> <span class="ltx_text" id="alg3.l13.3">feedback</span> <span class="ltx_text ltx_font_bold" id="alg3.l13.4">then</span> </div> <div class="ltx_listingline" id="alg3.l14"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l14.1.1.1" style="font-size:80%;">14:</span></span> <span class="ltx_text" id="alg3.l14.2" style="color:#808080;"> # restore original weights</span> </div> <div class="ltx_listingline" id="alg3.l15"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l15.1.1.1" style="font-size:80%;">15:</span></span> <math alttext="\text{input\_layer.weight}\leftarrow\text{original\_weight}" class="ltx_Math" display="inline" id="alg3.l15.m1.1"><semantics id="alg3.l15.m1.1a"><mrow id="alg3.l15.m1.1.1" xref="alg3.l15.m1.1.1.cmml"><mtext id="alg3.l15.m1.1.1.2" xref="alg3.l15.m1.1.1.2a.cmml">input_layer.weight</mtext><mo id="alg3.l15.m1.1.1.1" stretchy="false" xref="alg3.l15.m1.1.1.1.cmml">←</mo><mtext id="alg3.l15.m1.1.1.3" xref="alg3.l15.m1.1.1.3a.cmml">original_weight</mtext></mrow><annotation-xml encoding="MathML-Content" id="alg3.l15.m1.1b"><apply id="alg3.l15.m1.1.1.cmml" xref="alg3.l15.m1.1.1"><ci id="alg3.l15.m1.1.1.1.cmml" xref="alg3.l15.m1.1.1.1">←</ci><ci id="alg3.l15.m1.1.1.2a.cmml" xref="alg3.l15.m1.1.1.2"><mtext id="alg3.l15.m1.1.1.2.cmml" xref="alg3.l15.m1.1.1.2">input_layer.weight</mtext></ci><ci id="alg3.l15.m1.1.1.3a.cmml" xref="alg3.l15.m1.1.1.3"><mtext id="alg3.l15.m1.1.1.3.cmml" xref="alg3.l15.m1.1.1.3">original_weight</mtext></ci></apply></annotation-xml><annotation encoding="application/x-tex" id="alg3.l15.m1.1c">\text{input\_layer.weight}\leftarrow\text{original\_weight}</annotation><annotation encoding="application/x-llamapun" id="alg3.l15.m1.1d">input_layer.weight ← original_weight</annotation></semantics></math> </div> <div class="ltx_listingline" id="alg3.l16"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l16.1.1.1" style="font-size:80%;">16:</span></span> <span class="ltx_text ltx_font_bold" id="alg3.l16.2">end</span> <span class="ltx_text ltx_font_bold" id="alg3.l16.3">if</span> </div> <div class="ltx_listingline" id="alg3.l17"> <span class="ltx_tag ltx_tag_listingline"><span class="ltx_text" id="alg3.l17.1.1.1" style="font-size:80%;">17:</span></span> <span class="ltx_text ltx_font_bold" id="alg3.l17.2">Return:</span> <math alttext="x" class="ltx_Math" display="inline" id="alg3.l17.m1.1"><semantics id="alg3.l17.m1.1a"><mi id="alg3.l17.m1.1.1" xref="alg3.l17.m1.1.1.cmml">x</mi><annotation-xml encoding="MathML-Content" id="alg3.l17.m1.1b"><ci id="alg3.l17.m1.1.1.cmml" xref="alg3.l17.m1.1.1">𝑥</ci></annotation-xml><annotation encoding="application/x-tex" id="alg3.l17.m1.1c">x</annotation><annotation encoding="application/x-llamapun" id="alg3.l17.m1.1d">italic_x</annotation></semantics></math> </div> </div> </figure> </section> <section class="ltx_appendix" id="A4"> <h2 class="ltx_title ltx_title_appendix"> <span class="ltx_tag ltx_tag_appendix">Appendix D </span>Details of the physical experiments</h2> <section class="ltx_subsection" id="A4.SS1"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">D.1 </span>Wind tunnel experiments</h3> <figure class="ltx_figure" id="A4.F7"><svg class="ltx_picture ltx_centering" height="153.12" id="A4.F7.pic1" overflow="visible" version="1.1" width="269.64"><g fill="#000000" stroke="#000000" stroke-width="1.0pt" transform="translate(0,153.12) matrix(1 0 0 -1 0 0) translate(-161.72,0) translate(0,225.49)"><path d="M 162.41 -137.51 L 277.6 -138.01" style="fill:none"></path><g fill="#000000" stroke-opacity="0" stroke-width="0.08pt"><path d="M 267.21 -141.08 L 279.68 -138.02 L 267.24 -134.86 Z"></path></g><g stroke-dasharray="3.0pt,3.0pt" stroke-dashoffset="0.0pt"><path d="M 167.6 -104.3 L 416.15 -172.27" style="fill:none"></path></g><path d="M 344.54 -152.81" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(0.96593 -0.25882 0.25882 0.96593 263.37 -183.34)"><foreignobject height="101" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="141"><img alt="Refer to caption" class="ltx_graphics ltx_img_landscape" height="101" id="A4.F7.pic1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.1.g1" src="extracted/6287373/figures/naca0012.png" width="141"/></foreignobject></g><g stroke-opacity="0"><path d="M 191.75 -136.09 C 191.93 -127.93 193.21 -120.04 195.46 -112.57 L 279.68 -138.02 Z" style="fill:none"></path></g><path d="M 191.75 -136.09 C 191.92 -128.62 193.01 -121.38 194.91 -114.48" style="fill:none"></path><g fill="#000000" stroke-opacity="0" stroke-width="0.08pt"><path d="M 195.74 -125.4 L 195.46 -112.57 L 189.67 -124.02 Z"></path></g><path d="M 314.96 -143.21 L 314.96 -81.47" style="fill:none"></path><g fill="#000000" stroke-opacity="0" stroke-width="0.08pt"><path d="M 318.08 -91.84 L 314.96 -79.39 L 311.85 -91.84 Z"></path></g><path d="M 314.96 -143.21 L 360.11 -143.71" style="fill:none"></path><g fill="#000000" stroke-opacity="0" stroke-width="0.08pt"><path d="M 349.7 -146.71 L 362.18 -143.73 L 349.77 -140.48 Z"></path></g><path d="M 172.27 -114.05" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 174 -121.74)"><foreignobject height="5.96" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="8.85"><math alttext="\alpha" class="ltx_Math" display="inline" id="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1a"><mi id="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1" xref="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1.cmml">α</mi><annotation-xml encoding="MathML-Content" id="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1b"><ci id="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1.1">𝛼</ci></annotation-xml><annotation encoding="application/x-tex" id="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1c">\alpha</annotation><annotation encoding="application/x-llamapun" id="A4.F7.pic1.2.2.2.2.2.2.2.2.2.2.2.2.2.1.1.1.1.1.1.1.1.1.m1.1d">italic_α</annotation></semantics></math></foreignobject></g><path d="M 198.22 -140" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 199.94 -151.18)"><foreignobject height="11.12" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="18.7"><math alttext="U_{\infty}" class="ltx_Math" display="inline" id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1a"><msub id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1" xref="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><mi id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2" xref="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">U</mi><mi id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3" mathvariant="normal" xref="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml">∞</mi></msub><annotation-xml encoding="MathML-Content" id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1"><csymbol cd="ambiguous" id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml" xref="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1">subscript</csymbol><ci id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.2">𝑈</ci><infinity id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1.1.3"></infinity></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1c">U_{\infty}</annotation><annotation encoding="application/x-llamapun" id="A4.F7.pic1.3.3.3.3.3.3.3.3.3.3.3.3.3.1.1.1.1.1.1.1.1.1.m1.1d">italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT</annotation></semantics></math></foreignobject></g><path d="M 319.63 -73.06" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 321.36 -80.75)"><foreignobject height="8.61" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="11.26"><math alttext="c_{L}" class="ltx_Math" display="inline" id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1a"><msub id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1" xref="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><mi id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2" xref="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">c</mi><mi id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3" xref="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml">L</mi></msub><annotation-xml encoding="MathML-Content" id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1"><csymbol cd="ambiguous" id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml" xref="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1">subscript</csymbol><ci id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.2">𝑐</ci><ci id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1.1.3">𝐿</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1c">c_{L}</annotation><annotation encoding="application/x-llamapun" id="A4.F7.pic1.4.4.4.4.4.4.4.4.4.4.4.4.4.1.1.1.1.1.1.1.1.1.m1.1d">italic_c start_POSTSUBSCRIPT italic_L end_POSTSUBSCRIPT</annotation></semantics></math></foreignobject></g><path d="M 357.51 -129.72" style="fill:none"></path><g fill="#000000" stroke="#000000" transform="matrix(1.0 0.0 0.0 1.0 359.24 -137.41)"><foreignobject height="8.61" overflow="visible" transform="matrix(1 0 0 -1 0 16.6)" width="12.62"><math alttext="c_{D}" class="ltx_Math" display="inline" id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1"><semantics id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1a"><msub id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1" xref="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.cmml"><mi id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.2" xref="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml">c</mi><mi id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.3" xref="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml">D</mi></msub><annotation-xml encoding="MathML-Content" id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1b"><apply id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.cmml" xref="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1"><csymbol cd="ambiguous" id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.1.cmml" xref="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1">subscript</csymbol><ci id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.2.cmml" xref="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.2">𝑐</ci><ci id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.3.cmml" xref="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1.1.3">𝐷</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1c">c_{D}</annotation><annotation encoding="application/x-llamapun" id="A4.F7.pic1.5.5.5.5.5.5.5.5.5.5.5.5.5.1.1.1.1.1.1.1.1.1.m1.1d">italic_c start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT</annotation></semantics></math></foreignobject></g></g></svg> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 7: </span>Schematics of the wind tunnel experiment.</figcaption> </figure> <div class="ltx_para" id="A4.SS1.p1"> <p class="ltx_p" id="A4.SS1.p1.5">It is common practice in aerospace engineering to express the performances of an airfoil, i.e. a bidimensional section of a wing, in terms of its lift and drag coefficients, <math alttext="c_{L}" class="ltx_Math" display="inline" id="A4.SS1.p1.1.m1.1"><semantics id="A4.SS1.p1.1.m1.1a"><msub id="A4.SS1.p1.1.m1.1.1" xref="A4.SS1.p1.1.m1.1.1.cmml"><mi id="A4.SS1.p1.1.m1.1.1.2" xref="A4.SS1.p1.1.m1.1.1.2.cmml">c</mi><mi id="A4.SS1.p1.1.m1.1.1.3" xref="A4.SS1.p1.1.m1.1.1.3.cmml">L</mi></msub><annotation-xml encoding="MathML-Content" id="A4.SS1.p1.1.m1.1b"><apply id="A4.SS1.p1.1.m1.1.1.cmml" xref="A4.SS1.p1.1.m1.1.1"><csymbol cd="ambiguous" id="A4.SS1.p1.1.m1.1.1.1.cmml" xref="A4.SS1.p1.1.m1.1.1">subscript</csymbol><ci id="A4.SS1.p1.1.m1.1.1.2.cmml" xref="A4.SS1.p1.1.m1.1.1.2">𝑐</ci><ci id="A4.SS1.p1.1.m1.1.1.3.cmml" xref="A4.SS1.p1.1.m1.1.1.3">𝐿</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.SS1.p1.1.m1.1c">c_{L}</annotation><annotation encoding="application/x-llamapun" id="A4.SS1.p1.1.m1.1d">italic_c start_POSTSUBSCRIPT italic_L end_POSTSUBSCRIPT</annotation></semantics></math> and <math alttext="c_{D}" class="ltx_Math" display="inline" id="A4.SS1.p1.2.m2.1"><semantics id="A4.SS1.p1.2.m2.1a"><msub id="A4.SS1.p1.2.m2.1.1" xref="A4.SS1.p1.2.m2.1.1.cmml"><mi id="A4.SS1.p1.2.m2.1.1.2" xref="A4.SS1.p1.2.m2.1.1.2.cmml">c</mi><mi id="A4.SS1.p1.2.m2.1.1.3" xref="A4.SS1.p1.2.m2.1.1.3.cmml">D</mi></msub><annotation-xml encoding="MathML-Content" id="A4.SS1.p1.2.m2.1b"><apply id="A4.SS1.p1.2.m2.1.1.cmml" xref="A4.SS1.p1.2.m2.1.1"><csymbol cd="ambiguous" id="A4.SS1.p1.2.m2.1.1.1.cmml" xref="A4.SS1.p1.2.m2.1.1">subscript</csymbol><ci id="A4.SS1.p1.2.m2.1.1.2.cmml" xref="A4.SS1.p1.2.m2.1.1.2">𝑐</ci><ci id="A4.SS1.p1.2.m2.1.1.3.cmml" xref="A4.SS1.p1.2.m2.1.1.3">𝐷</ci></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.SS1.p1.2.m2.1c">c_{D}</annotation><annotation encoding="application/x-llamapun" id="A4.SS1.p1.2.m2.1d">italic_c start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT</annotation></semantics></math>, defined as the ratio of the lift and drag forces (per unit length) and the dynamic pressure forces <math alttext="1/2\rho cU_{\infty}^{2}" class="ltx_Math" display="inline" id="A4.SS1.p1.3.m3.1"><semantics id="A4.SS1.p1.3.m3.1a"><mrow id="A4.SS1.p1.3.m3.1.1" xref="A4.SS1.p1.3.m3.1.1.cmml"><mrow id="A4.SS1.p1.3.m3.1.1.2" xref="A4.SS1.p1.3.m3.1.1.2.cmml"><mn id="A4.SS1.p1.3.m3.1.1.2.2" xref="A4.SS1.p1.3.m3.1.1.2.2.cmml">1</mn><mo id="A4.SS1.p1.3.m3.1.1.2.1" xref="A4.SS1.p1.3.m3.1.1.2.1.cmml">/</mo><mn id="A4.SS1.p1.3.m3.1.1.2.3" xref="A4.SS1.p1.3.m3.1.1.2.3.cmml">2</mn></mrow><mo id="A4.SS1.p1.3.m3.1.1.1" xref="A4.SS1.p1.3.m3.1.1.1.cmml">⁢</mo><mi id="A4.SS1.p1.3.m3.1.1.3" xref="A4.SS1.p1.3.m3.1.1.3.cmml">ρ</mi><mo id="A4.SS1.p1.3.m3.1.1.1a" xref="A4.SS1.p1.3.m3.1.1.1.cmml">⁢</mo><mi id="A4.SS1.p1.3.m3.1.1.4" xref="A4.SS1.p1.3.m3.1.1.4.cmml">c</mi><mo id="A4.SS1.p1.3.m3.1.1.1b" xref="A4.SS1.p1.3.m3.1.1.1.cmml">⁢</mo><msubsup id="A4.SS1.p1.3.m3.1.1.5" xref="A4.SS1.p1.3.m3.1.1.5.cmml"><mi id="A4.SS1.p1.3.m3.1.1.5.2.2" xref="A4.SS1.p1.3.m3.1.1.5.2.2.cmml">U</mi><mi id="A4.SS1.p1.3.m3.1.1.5.2.3" mathvariant="normal" xref="A4.SS1.p1.3.m3.1.1.5.2.3.cmml">∞</mi><mn id="A4.SS1.p1.3.m3.1.1.5.3" xref="A4.SS1.p1.3.m3.1.1.5.3.cmml">2</mn></msubsup></mrow><annotation-xml encoding="MathML-Content" id="A4.SS1.p1.3.m3.1b"><apply id="A4.SS1.p1.3.m3.1.1.cmml" xref="A4.SS1.p1.3.m3.1.1"><times id="A4.SS1.p1.3.m3.1.1.1.cmml" xref="A4.SS1.p1.3.m3.1.1.1"></times><apply id="A4.SS1.p1.3.m3.1.1.2.cmml" xref="A4.SS1.p1.3.m3.1.1.2"><divide id="A4.SS1.p1.3.m3.1.1.2.1.cmml" xref="A4.SS1.p1.3.m3.1.1.2.1"></divide><cn id="A4.SS1.p1.3.m3.1.1.2.2.cmml" type="integer" xref="A4.SS1.p1.3.m3.1.1.2.2">1</cn><cn id="A4.SS1.p1.3.m3.1.1.2.3.cmml" type="integer" xref="A4.SS1.p1.3.m3.1.1.2.3">2</cn></apply><ci id="A4.SS1.p1.3.m3.1.1.3.cmml" xref="A4.SS1.p1.3.m3.1.1.3">𝜌</ci><ci id="A4.SS1.p1.3.m3.1.1.4.cmml" xref="A4.SS1.p1.3.m3.1.1.4">𝑐</ci><apply id="A4.SS1.p1.3.m3.1.1.5.cmml" xref="A4.SS1.p1.3.m3.1.1.5"><csymbol cd="ambiguous" id="A4.SS1.p1.3.m3.1.1.5.1.cmml" xref="A4.SS1.p1.3.m3.1.1.5">superscript</csymbol><apply id="A4.SS1.p1.3.m3.1.1.5.2.cmml" xref="A4.SS1.p1.3.m3.1.1.5"><csymbol cd="ambiguous" id="A4.SS1.p1.3.m3.1.1.5.2.1.cmml" xref="A4.SS1.p1.3.m3.1.1.5">subscript</csymbol><ci id="A4.SS1.p1.3.m3.1.1.5.2.2.cmml" xref="A4.SS1.p1.3.m3.1.1.5.2.2">𝑈</ci><infinity id="A4.SS1.p1.3.m3.1.1.5.2.3.cmml" xref="A4.SS1.p1.3.m3.1.1.5.2.3"></infinity></apply><cn id="A4.SS1.p1.3.m3.1.1.5.3.cmml" type="integer" xref="A4.SS1.p1.3.m3.1.1.5.3">2</cn></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.SS1.p1.3.m3.1c">1/2\rho cU_{\infty}^{2}</annotation><annotation encoding="application/x-llamapun" id="A4.SS1.p1.3.m3.1d">1 / 2 italic_ρ italic_c italic_U start_POSTSUBSCRIPT ∞ end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT</annotation></semantics></math>, where <math alttext="\rho" class="ltx_Math" display="inline" id="A4.SS1.p1.4.m4.1"><semantics id="A4.SS1.p1.4.m4.1a"><mi id="A4.SS1.p1.4.m4.1.1" xref="A4.SS1.p1.4.m4.1.1.cmml">ρ</mi><annotation-xml encoding="MathML-Content" id="A4.SS1.p1.4.m4.1b"><ci id="A4.SS1.p1.4.m4.1.1.cmml" xref="A4.SS1.p1.4.m4.1.1">𝜌</ci></annotation-xml><annotation encoding="application/x-tex" id="A4.SS1.p1.4.m4.1c">\rho</annotation><annotation encoding="application/x-llamapun" id="A4.SS1.p1.4.m4.1d">italic_ρ</annotation></semantics></math> is the fluid density and <math alttext="c" class="ltx_Math" display="inline" id="A4.SS1.p1.5.m5.1"><semantics id="A4.SS1.p1.5.m5.1a"><mi id="A4.SS1.p1.5.m5.1.1" xref="A4.SS1.p1.5.m5.1.1.cmml">c</mi><annotation-xml encoding="MathML-Content" id="A4.SS1.p1.5.m5.1b"><ci id="A4.SS1.p1.5.m5.1.1.cmml" xref="A4.SS1.p1.5.m5.1.1">𝑐</ci></annotation-xml><annotation encoding="application/x-tex" id="A4.SS1.p1.5.m5.1c">c</annotation><annotation encoding="application/x-llamapun" id="A4.SS1.p1.5.m5.1d">italic_c</annotation></semantics></math> the profile chord. These forces can be measured by placing a maquette in a wind tunnel, where the flow speed can be controlled with precision, see Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A4.F7" title="Figure 7 ‣ D.1 Wind tunnel experiments ‣ Appendix D Details of the physical experiments ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">7</span></a> for a sketch of the main relevant quantities. The output of the force balances, once normalized, looks like Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A4.F8" title="Figure 8 ‣ D.1 Wind tunnel experiments ‣ Appendix D Details of the physical experiments ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">8</span></a>. In black and white are indicated the points used for training, chosen independently placing a uniform distribution over the time series.</p> </div> <figure class="ltx_figure" id="A4.F8"><img alt="Refer to caption" class="ltx_graphics ltx_centering ltx_img_landscape" height="249" id="A4.F8.g1" src="x5.png" width="498"/> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 8: </span>Normalized output of the force balances of the wind tunnel experiments. In black and white the samples used for modeling, which are chosen randomly with a uniform distribution over the set of all time samples.</figcaption> </figure> </section> <section class="ltx_subsection" id="A4.SS2"> <h3 class="ltx_title ltx_title_subsection"> <span class="ltx_tag ltx_tag_subsection">D.2 </span>Drone noise</h3> <div class="ltx_para" id="A4.SS2.p1"> <p class="ltx_p" id="A4.SS2.p1.2">The increased presence of small unmanned drones in daily life has revived the interest of the aeroacoustics community for rotor noise. The acoustic signature of a small rotor is mainly due to two effects: the random interactions of turbulent eddies with the blades, which gives rise to a broadband noise signature, and the rotation of the blades themselves, which produces sharp tones. The tones appear at the so-called blade passing frequency (BPF), i.e. the rotation speed of the motor <math alttext="\Omega" class="ltx_Math" display="inline" id="A4.SS2.p1.1.m1.1"><semantics id="A4.SS2.p1.1.m1.1a"><mi id="A4.SS2.p1.1.m1.1.1" mathvariant="normal" xref="A4.SS2.p1.1.m1.1.1.cmml">Ω</mi><annotation-xml encoding="MathML-Content" id="A4.SS2.p1.1.m1.1b"><ci id="A4.SS2.p1.1.m1.1.1.cmml" xref="A4.SS2.p1.1.m1.1.1">Ω</ci></annotation-xml><annotation encoding="application/x-tex" id="A4.SS2.p1.1.m1.1c">\Omega</annotation><annotation encoding="application/x-llamapun" id="A4.SS2.p1.1.m1.1d">roman_Ω</annotation></semantics></math> times the number of blades <math alttext="n" class="ltx_Math" display="inline" id="A4.SS2.p1.2.m2.1"><semantics id="A4.SS2.p1.2.m2.1a"><mi id="A4.SS2.p1.2.m2.1.1" xref="A4.SS2.p1.2.m2.1.1.cmml">n</mi><annotation-xml encoding="MathML-Content" id="A4.SS2.p1.2.m2.1b"><ci id="A4.SS2.p1.2.m2.1.1.cmml" xref="A4.SS2.p1.2.m2.1.1">𝑛</ci></annotation-xml><annotation encoding="application/x-tex" id="A4.SS2.p1.2.m2.1c">n</annotation><annotation encoding="application/x-llamapun" id="A4.SS2.p1.2.m2.1d">italic_n</annotation></semantics></math>, and all integer multiples of this fundamental frequency, called harmonics. Both these components are visible on the spectrum in Fig. <a class="ltx_ref" href="https://arxiv.org/html/2503.13317v1#A4.F9" title="Figure 9 ‣ D.2 Drone noise ‣ Appendix D Details of the physical experiments ‣ Do You Understand Epistemic Uncertainty? Think Again! Rigorous Frequentist Epistemic Uncertainty Estimation in Regression"><span class="ltx_text ltx_ref_tag">9</span></a>. Note that the extra peaks, not evidenced by vertical lines, are harmonics of the noise due to small imbalances of the fan system, and are thus not of aerodynamic nature. The tonal component of noise is the most annoying for the human ears, but is also hard to predict with precision because it depends on the unsteady pressure distribution on the blades, which require extremely costly numerical simulations to be captured efficiently.</p> </div> <figure class="ltx_figure" id="A4.F9"><img alt="Refer to caption" class="ltx_graphics ltx_centering ltx_img_landscape" height="217" id="A4.F9.g1" src="x6.png" width="581"/> <figcaption class="ltx_caption ltx_centering"><span class="ltx_tag ltx_tag_figure">Figure 9: </span>Spectrum captured at a microphone placed on the rotor-disk plane (<math alttext="\vartheta=0^{\circ}" class="ltx_Math" display="inline" id="A4.F9.3.m1.1"><semantics id="A4.F9.3.m1.1b"><mrow id="A4.F9.3.m1.1.1" xref="A4.F9.3.m1.1.1.cmml"><mi id="A4.F9.3.m1.1.1.2" xref="A4.F9.3.m1.1.1.2.cmml">ϑ</mi><mo id="A4.F9.3.m1.1.1.1" xref="A4.F9.3.m1.1.1.1.cmml">=</mo><msup id="A4.F9.3.m1.1.1.3" xref="A4.F9.3.m1.1.1.3.cmml"><mn id="A4.F9.3.m1.1.1.3.2" xref="A4.F9.3.m1.1.1.3.2.cmml">0</mn><mo id="A4.F9.3.m1.1.1.3.3" xref="A4.F9.3.m1.1.1.3.3.cmml">∘</mo></msup></mrow><annotation-xml encoding="MathML-Content" id="A4.F9.3.m1.1c"><apply id="A4.F9.3.m1.1.1.cmml" xref="A4.F9.3.m1.1.1"><eq id="A4.F9.3.m1.1.1.1.cmml" xref="A4.F9.3.m1.1.1.1"></eq><ci id="A4.F9.3.m1.1.1.2.cmml" xref="A4.F9.3.m1.1.1.2">italic-ϑ</ci><apply id="A4.F9.3.m1.1.1.3.cmml" xref="A4.F9.3.m1.1.1.3"><csymbol cd="ambiguous" id="A4.F9.3.m1.1.1.3.1.cmml" xref="A4.F9.3.m1.1.1.3">superscript</csymbol><cn id="A4.F9.3.m1.1.1.3.2.cmml" type="integer" xref="A4.F9.3.m1.1.1.3.2">0</cn><compose id="A4.F9.3.m1.1.1.3.3.cmml" xref="A4.F9.3.m1.1.1.3.3"></compose></apply></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.F9.3.m1.1d">\vartheta=0^{\circ}</annotation><annotation encoding="application/x-llamapun" id="A4.F9.3.m1.1e">italic_ϑ = 0 start_POSTSUPERSCRIPT ∘ end_POSTSUPERSCRIPT</annotation></semantics></math>), for a three-bladed rotor spinning at <math alttext="\Omega=3000" class="ltx_Math" display="inline" id="A4.F9.4.m2.1"><semantics id="A4.F9.4.m2.1b"><mrow id="A4.F9.4.m2.1.1" xref="A4.F9.4.m2.1.1.cmml"><mi id="A4.F9.4.m2.1.1.2" mathvariant="normal" xref="A4.F9.4.m2.1.1.2.cmml">Ω</mi><mo id="A4.F9.4.m2.1.1.1" xref="A4.F9.4.m2.1.1.1.cmml">=</mo><mn id="A4.F9.4.m2.1.1.3" xref="A4.F9.4.m2.1.1.3.cmml">3000</mn></mrow><annotation-xml encoding="MathML-Content" id="A4.F9.4.m2.1c"><apply id="A4.F9.4.m2.1.1.cmml" xref="A4.F9.4.m2.1.1"><eq id="A4.F9.4.m2.1.1.1.cmml" xref="A4.F9.4.m2.1.1.1"></eq><ci id="A4.F9.4.m2.1.1.2.cmml" xref="A4.F9.4.m2.1.1.2">Ω</ci><cn id="A4.F9.4.m2.1.1.3.cmml" type="integer" xref="A4.F9.4.m2.1.1.3">3000</cn></apply></annotation-xml><annotation encoding="application/x-tex" id="A4.F9.4.m2.1d">\Omega=3000</annotation><annotation encoding="application/x-llamapun" id="A4.F9.4.m2.1e">roman_Ω = 3000</annotation></semantics></math> rpm.</figcaption> </figure> <div class="ltx_para" id="A4.SS2.p2"> <p class="ltx_p" id="A4.SS2.p2.1">The data has been collected in the anechoïc room of ISAE-SUPAERO, and are available on the Dataverse, along with scripts to perform the data processing. For the present study, the starting point are again the time series of the farfield sound pressure. The signal is split into two sub-sections, both of which are processed using the fast Fourier transform, averaging the results of 8 windowing sections, with no overlap, using the Hanning window. It is fair to consider the two halves as independent realisations of the same data distribution, by considering the time signal to be an ergodic random process.</p> </div> <div class="ltx_pagination ltx_role_newpage"></div> </section> </section><div about="" class="ltx_rdf" content="Bibliographic Report" property="dcterms:title"></div> </article> </div> <footer class="ltx_page_footer"> <div class="ltx_page_logo">Generated on Mon Mar 17 15:56:26 2025 by <a class="ltx_LaTeXML_logo" href="http://dlmf.nist.gov/LaTeXML/"><span style="letter-spacing:-0.2em; margin-right:0.1em;">L<span class="ltx_font_smallcaps" style="position:relative; bottom:2.2pt;">a</span>T<span class="ltx_font_smallcaps" style="font-size:120%;position:relative; bottom:-0.2ex;">e</span></span><span style="font-size:90%; position:relative; bottom:-0.2ex;">XML</span><img alt="Mascot Sammy" src="data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAsAAAAOCAYAAAD5YeaVAAAAAXNSR0IArs4c6QAAAAZiS0dEAP8A/wD/oL2nkwAAAAlwSFlzAAALEwAACxMBAJqcGAAAAAd0SU1FB9wKExQZLWTEaOUAAAAddEVYdENvbW1lbnQAQ3JlYXRlZCB3aXRoIFRoZSBHSU1Q72QlbgAAAdpJREFUKM9tkL+L2nAARz9fPZNCKFapUn8kyI0e4iRHSR1Kb8ng0lJw6FYHFwv2LwhOpcWxTjeUunYqOmqd6hEoRDhtDWdA8ApRYsSUCDHNt5ul13vz4w0vWCgUnnEc975arX6ORqN3VqtVZbfbTQC4uEHANM3jSqXymFI6yWazP2KxWAXAL9zCUa1Wy2tXVxheKA9YNoR8Pt+aTqe4FVVVvz05O6MBhqUIBGk8Hn8HAOVy+T+XLJfLS4ZhTiRJgqIoVBRFIoric47jPnmeB1mW/9rr9ZpSSn3Lsmir1fJZlqWlUonKsvwWwD8ymc/nXwVBeLjf7xEKhdBut9Hr9WgmkyGEkJwsy5eHG5vN5g0AKIoCAEgkEkin0wQAfN9/cXPdheu6P33fBwB4ngcAcByHJpPJl+fn54mD3Gg0NrquXxeLRQAAwzAYj8cwTZPwPH9/sVg8PXweDAauqqr2cDjEer1GJBLBZDJBs9mE4zjwfZ85lAGg2+06hmGgXq+j3+/DsixYlgVN03a9Xu8jgCNCyIegIAgx13Vfd7vdu+FweG8YRkjXdWy329+dTgeSJD3ieZ7RNO0VAXAPwDEAO5VKndi2fWrb9jWl9Esul6PZbDY9Go1OZ7PZ9z/lyuD3OozU2wAAAABJRU5ErkJggg=="/></a> </div></footer> </div> </body> </html>