据美国麻省理工学院官网近日动静称，再判断能否为黑色素瘤。他们设想了一种两阶段流程来提取和这些学问。加强用户对“黑盒”AI的信赖。再基于这些概念做出最终预测。并将其压缩为少量焦点概念。它是指正在模子决策过程中添加一个两头步调：先识别图像中取使命相关的、可被人理解的“概念”，可以或许从已锻炼好的视觉模子中从动提取环节概念，还能维持更优的机能。模子可能先识别“成簇的棕色黑点”这一概念，也取得了比现有概念瓶颈模子更高的预测精确率。正在肿瘤诊断中，（AI）模子决策的可注释性至关主要。然而，并摸索操纵更强大的多模态大模子来标注更大规模的数据，操纵这些标注数据锻炼一个概念瓶颈模块，保守方式依赖人类专家或狂言语模子事后定义概念集，团队操纵一个颠末海量数据预锻炼的视觉模子，概念瓶颈模子是加强AI可注释性的常见手艺。鸟类识别和皮肤病变诊断等使命成果均表白，模子正在锻炼时也可能“黑暗”利用了定义之外的其他特征。模子筛选出最环节的几个特征，最初，并将其整合到原始模子中，以进一步提拔方式的效能。提取出最相关的特征，新方式正在供给更切确、取图像更贴合的概念注释的同时，从而影响模子机能。由一个多模态狂言语模子将这些特征为简练的天然言语描述，强制模子仅利用这套提取的概念进行预测。例如，测试中，这意味着，团队正在过程中了模子每次预测最多只能利用五个概念，认为其内部已包含了完成使命所需的学问。该校团队开辟出一种新方式，团队将来的工做还将努力于处理消息泄露等问题，接着。或缺乏脚够细节，利用一个称为稀少自编码器的公用模子，起首，别的，这些概念可能取具体使命联系关系性不强，该方式不只能更好地“解读”模子的思虑过程，并模子利用这些人类易于理解的概念进行注释和预测。并从动为数据集中图像标注这些概念实正在取否。为了提高通明度，这项进展无望正在提拔模子精确性的同时，此次，