点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
“灵魂砍价”之后，药品耗材集采下一步如何推进？****** 在有效保障患者用得起优质药的同时，一些难点、堵点问题也随之出现 “灵魂砍价”之后，药品耗材集采下一步如何推进？ 本报记者 王维砚 杨召奎 阅读提示 随着药品耗材集采常态化推进，在有效保障患者用得起、用得上优质药的同时，一些难点、堵点问题也随之出现。专家指出，进一步提升集采质量，中选价格不仅要覆盖生产成本，也要覆盖合理的流通成本和耗材伴随服务成本。 近日，一场事关种植牙价格的集采备受关注。 1月11日，口腔种植体集采在成都开标，拟中选产品平均中选价格降至900余元，与集采前中位采购价相比，平均降幅55%，这给很多需要种牙的患者带来了大大的实惠。目前，种植牙耗材并未被纳入医保报销范围，本次集采也是高值耗材集采从医保领域扩围到非医保领域的首次尝试。 集采，即集中带量采购，通过量价挂钩、以量换价，不断挤出虚高价格水分，引导药品、耗材价格回归合理区间，破解群众看病贵难题。 国家医保局最新发布的数据显示，目前，7批药品集采、3批耗材集采，叠加地方联盟集采，累计降低药耗费用超4000亿元。 随着集采常态化推进，在有效保障患者用得起、用得上优质药的同时，一些难点、堵点问题也随之出现。日前，在中新社举办的“国是论坛：集采常态化与医疗高质量发展”研讨会上，专家们纷纷建言，为更好推进集采支招。 摒弃“唯低价”，提升集采质量 药品、耗材集采“灵魂砍价”后，患者就医负担持续降低。 在药品集采方面，2018年以来，以常见病、慢性病用药为重点，国家组织开展了7批药品集采，涉及294种药品，1135个中选产品平均降价超50%。集采品种中使用高质量药品的患者比例从50%提高至90%以上。 在耗材集采方面，国家在心内科和骨科两个最受关注的耗材价格虚高领域开展了3批集采，其中，心脏支架集采已于2022年11月成功接续，平均中选支架价格在770元左右；人工关节类和骨科脊柱类高值医用耗材集采中选产品平均降价超80%。 专家表示，通过集采把价格“打下来”，并非“唯低价论”，而是要在多元目标中找到平衡。在挤掉价格水分的前提下，也要让企业获得合理利润，同时不影响相关药品和耗材可及性，不加剧医保和患者负担水平。 如何进一步提升集采质量？在北京大学公共卫生学院教授吴明看来，下一步，应根据临床需求进一步完善集采规则，以质量为核心、以临床价值为导向，同时中选价格不仅要覆盖生产成本，也要覆盖合理的流通成本和耗材伴随服务成本。 吴明指出，目前有部分药品和耗材虽然通过了一致性评价，但实际使用过程中效果参差不齐，因此要建立起临床耗材信息化管理系统以及产品和服务质量评价系统，避免“劣币驱逐良币”。 完善物流配送和配送商遴选 流通和配送是完成集采的重要环节，讨论中，专家不约而同地提到了集采后的物流运输和服务问题。 吴明在调研中发现，过去，由第三方管理医院的耗材库存，包括点货、备货、及时补货等，相当于提供“保姆式服务”；而集采后流通环节大幅压缩，很多代理商退出，为医院提供的物资管理服务显著减少，而配送企业没有经验和能力，只送货不提供其他服务，这就出现了供需双方的不适配——医院内部需求没有及时传导到供货企业，短期内出现管理空白。吴明建议，有必要尽快界定各方责任，建立相应的激励和监督机制，疏通集采流通环节的堵点。 国药集团中国医疗器械有限公司副总经理张威也表示，想要更好地服务集采，需要重视发挥大型流通与配送企业的作用。 据张威介绍，通常全国性医疗器械流通和配送企业为实现集采产品落地，会在各地设立经营网络企业并开展医疗器械三方物流业务，但跨行政区域开展代储、代运需要单独申报，监管方需按照各自审批权限进行审批，这在一定程度上制约了集采产品在流通和配送环节的畅通流转。他建议，建立集中带量采购流通和配送企业多仓协同制度，在全国试点探索大型企业内三方物流多仓协同机制。 张威还建议，完善对配送商的遴选机制，包括仓储面积、人员资质、覆盖面积、注册资金等都需要重点考虑，以保证集采成果安全高效地配送到各级医疗机构。 激励企业走创新之路 医疗产业高质量发展离不开创新，而创新药品耗材具有高投入、长周期、高风险等特点，企业必然对高回报率抱有期待。 “今后新技术、新耗材进不进医保？在什么时机、什么条件下进医保能实现社会价值和经济价值的最大化？这些都需要考虑。”中国医学装备协会副秘书长杨建龙表示，一些国产器械、耗材企业研发投入非常大，如果产品上市后很快进入集采，而集采长期以“低价”作为标准，企业回收成本和创造利润都会受影响，长此以往不利于医药创新。 杨建龙直言：“希望有灵活、精准的政策，作为新技术可以暂时不集采、不进医保，至少等足够成熟之后或者是有很好的卫生机制价值时再进医保，给予新技术一定的自由市场。” “如何保证企业进行高投入后能获得应有回报，应交给市场机制去解决。”在北京大学国民经济研究中心主任苏剑看来，还应进一步完善对医院和医生的评价机制，在评价体系中更注重医生的专业和创新能力，而非论文数量。 不过，在吴明看来，高回报率并不代表企业一定会有创新动力。 “过去我国药品耗材价格很高、利润很高，但企业并没有积极性创新，因为只要给‘回扣’就可以躺着赚钱，为什么要走风险极高的创新之路？”吴明认为，要激励创新，首先要通过改革为医药创新创造良好市场环境，而集采就通过极大压缩“回扣”空间，纠正了市场失灵，形成了有效的创新激励，集采腾出的空间可以用来研发创新产品；集采产品薄利多销，企业若要获得更高利润，只能创新。 记者注意到，目前我国头部医药企业正在加大研发费用投入，创新药研发上市进程不断加快。 （文图：赵筱尘 巫邓炎） [责编：天天中] 阅读剩余全文（）  视觉焦点
彩神地图 |
)