黑箱理论是指由于庞大度太高或难以考察,无法确定其内部运作机制的手艺系统。这种系统可以是社会系统、自然系统,也可以是人工智能等庞大的科技系统。
就以人工智能手艺为例,我们所熟知的深度学习算法、神经网络等基于大数据的黑科技都属于黑箱手艺局限,这些手艺的内部机制对于许多通俗用户来说都是不透明的,只能通过结果来判断其是否可靠。
然而黑箱手艺的存在也带来了一定的风险,好比自动驾驶、智能识别等涉及人身平安的应用,若是黑箱手艺泛起问题引发事故,结果将不堪设想。以是我们需要找到一种方式来让黑箱手艺变得透明和可明晰。