信息工程之父?
是克劳德·艾尔伍德·香农。
克劳德·艾尔伍德·香农(Claude Elwood Shannon,1916年4月30日—2001年2月24日)是美国数学家、信息论的创始人。1936年获得密歇根大学学士学位。1940年在麻省理工学院获得硕士和博士学位,1941年进入贝尔实验室工作。
香农提出了信息熵的概念,为信息论和数字通信奠定了基础。主要论文有1938年的硕士论文《继电器与开关电路的符号分析》、1948年的《通讯的数学原理》和1949年的《噪声下的通信》。
1956年麦卡锡明斯基香农和罗切斯特为首的一批年轻科学家首次提出了什么?
1956年,以麦卡锡、明斯基、香农和罗切斯特等为首的一批年轻科学家在一起聚会,共同研究和探讨用机器模拟智能的一系列有关问题,并首次提出了“人工智能”这一术语,由此标志着“人工智能”这门新兴学科的正式诞生。
之后的1957年,美国认知心理学家Rosenblatt等首次提出了一种称之为‘感知机’(Perceptron)的人工神经网络模型。主要是基于1943年由美国心理学家麦卡洛克和数理逻辑学家皮特斯提出的MP人工神经元模型进行构建的前馈网络,旨在发展出一种模拟生物系统感知外界信息的简化模型。
‘感知机’主要用于分类任务,由此开创了神经网络的第一次热潮。
信息熵类型?
信息熵这一概念由克劳德·香农于1948 年提出。香农是美国著名的数学家、信息论创始人,他提出的“信息熵”的概念,为信息论和数字通信奠定了基础。
信息熵是用于衡量不确定性的指标,也就是离散随机事件出现的概率,简单地说“情况越混乱,信息熵就越大,反之则越小”。