事实上，图灵在1950年关于图灵测试的文章中，就曾提到了机器学习的可能；二十世纪五十年代初已有机器学习的相关研究，例如A. Samuel著名的跳棋程序．五十年代中后期，基于神经网络的“连接主义”(connectionism)学习开始出现，代表性工作有F．Rosenblatt的感知机(Perceptron)、B．Widrow的Adaline等．在六七十年代，基于逻辑表示的“符号主义”(symbolism)学习技术蓬勃发展，代表性工作有P．Winston的“结构学习系统”、R.S．Michalski等人的“基于逻辑的归纳学习系统”、E．B．Hunt等人的“概念学习系统”等；以决策理论为基础的学习技术以及强化学习技术等也得到发展，代表性工作有N.J．Nilson的“学习机器”等；二十多年后红极一时的统计学习理论的一些奠基性结果也是在这个时期取得的．1980年夏，在美国卡耐基梅隆大学举行了第一届机器学习研讨会(IWML)；同年，《策略分析与信息系统》连出三期机器学习专辑；1983年，Tioga出版社出版了R.S．Michalski、J．G. Carbonell和T．Mitchell主编的《机器学习：一种人工智能途径》[Michalski et al.，1983]，对当时的机器学习研究工作进行了总结；1986年，第一本机器学习专业期刊Machine Learning创刊；1989年，人工智能领域的权威期刊A'rtificial Intelligence出版机器学习专辑，刊发了当时一些比较活跃的研究工作，其内容后来出现在J．G. Carbonell主编、MIT出版社1990年的《机器学习：范型与方法》[Carbonell，1990] -书中．总的来看，二十世纪八十年代是机器学习成为一个独立的学科领域、各种机器学习技术百花初绽的时期．R.S．Michalski等人[Michalski et al.，1983]把机器学习研究划分为“从样例中学习”“在问题求解和规划中学习”“通过观察和发现学习”“从指令中学习”等种类；