模型的透明度

explainable AI （XAI）

XAI

指的是让人们明白这个模型是为什么得到这个结果的。因为AI有可能会作弊。比如通过看图片是否有copyright里面是不是有马的字段来判断图片是不是马。

XAI 我们就可以不断的人为优化模型。

black-box AI， 与XAI相反。 我们不知道模型通过什么得到的结果也不知道如何优化。

各种learning

监督学习(supervised learning):
每个数据都有对应的label。良性肿瘤和恶性肿瘤。

无监督学习(unsupervised learning):
数据没有labels。我们不知道每一个数据对应的什么意思。比如google有上千个新闻。我们没发给每一个加上label。我们就可以通过”聚类”的形式来将相似的定为一个专栏，达成新闻分类。

表示学习(representation learning):
不同方法来表示学习。比如hsv和rgb都可以表示颜色。

各种学习的精准度和可解释度

各种model

Interpretable Models

• Decision Trees, Lists a ,Sets and rules
基本的if else

• GAMs
• GLMs
• Linear regression
• Logistic regression \

GAM GLM ...

• KNNs

End-to-End XAI

比传统的represtation learning 多了更多的不同等级的特征。 比如：
simple feature -> complex feature -> more complex feature。
这种结构对模型参数的调节空间更大。

Shapley Additive Explanation