Машинско учење

Машинско учење (енгл. Machine learning, ML) је подобласт вештачке интелигенције чији је циљ конструисање статистичких алгоритама и рачунарских система који су способни да се адаптирају на аналогне нове ситуације и уче на бази искуства. Развијене су различите технике учења за извршавање различитих задатака. Прве које су биле предмет истраживања, тичу се надгледаног учења за дискреционо доношење одлука, надгледаног учења за континуирано предвиђање и појачано учење за секвенционално доношење одлука, као и ненадгледано учење. До сада најбоље схваћен од свих наведених задатака је одлучивање преко једног покушаја (енгл. one-shot learning). Рачунару је дат опис једног објекта (догађаја или ситуације) и од њега се очекује да као резултат избаци класификацију тог објекта. На примјер, програм за препознавање алфанумеричких знакова као улазну вриједност има дигитализовану слику неког алфанумеричког знака и као резултат треба да избаци његово име.

Алгоритми машинског учења могу да уче из података и генерализују на невидљиве податке, и на тај начин обављају задатке без експлицитних упутстава.^[1] Недавно су вештачке неуронске мреже успеле да надмаше многе претходне приступе у погледу перформанси.^[2]^[3] Приступи машинском учењу су примењени у многим областима укључујући обраду природног језика, компјутерски вид, препознавање говора, филтрирање електронске поште, пољопривреду и медицину.^[4]^[5] ML је познато по својој примени на пословне проблеме под називом предиктивна аналитика. Иако није свако машинско учење статистички засновано, рачунарска статистика је важан извор метода у овој области.

Математичке основе машинског учења су обезбеђене методама математичке оптимизације (математичко програмирање). Истраживање података је сродна (паралелна) област проучавања, која се фокусира на истраживачку анализу података кроз учење без надзора.^[7]^[8] Са теоријске тачке гледишта, вероватно приближно тачно учење пружа оквир за описивање машинског учења.

Историја

Термин машинско учење сковао је 1959. Артур Семјуел, док је био запослен у IBM-у, који је пионир у области компјутерских игара и вештачке интелигенције.^[9]^[10] У овом временском периоду коришћен је и синоним самоучећи рачунари.^[11]^[12]

Иако је најранији модел машинског учења уведен током 1950-их када је Артур Семјуел изумео програм који је израчунао добитну шансу у дамама за сваку страну, историја машинског учења има корене уназад до деценија људског настојања и напора да се проучавају људски когнитивни процеси.^[13] Канадски психолог Доналд Хеб је 1949. године објавио књигу Организација понашања, у којој је представио теоријску неуронску структуру формирану одређеним интеракцијама међу нервним ћелијама.^[14] Хебов модел неурона који међусобно комуницирају поставио је основу за то како AI и алгоритми за машинско учење функционишу под чвориштима, или вештачким неуронима које рачунари користе за комуникацију података.^[13] Други истраживачи који су проучавали људске когнитивне системе такође су допринели савременим технологијама машинског учења, укључујући логичара Валтера Питса и Ворена Макалока, који су предложили ране математичке моделе неуронских мрежа како би дошли до алгоритама који одражавају људске мисаоне процесе.^[13]

До раних 1960-их, компанија Рејтион развила је експерименталну „машину за учење“ са меморијом на бушеној траци, названу Сајбертрон, за анализу сигнала сонара, електрокардиограма и говорних образаца користећи рудиментарно поткрепљено учење. Људски оператер/учитељ ју је стално „обучавао“ да препозна обрасце и била је опремљена дугметом „бесмислица“ да би се упутила да поново процени погрешне одлуке.^[15] Репрезентативни рад о истраживању машинског учења током 1960-их била је Нилсонова књига о машинама за учење, која се углавном бавила машинским учењем с циљем класификације образаца.^[16] Интересовање везано за препознавање образаца наставило се током 1970-их, како су то описали Дуда и Харт 1973. године.^[17] Године 1981, објављен је извештај о коришћењу наставних стратегија тако да вештачка неуронска мрежа научи да препозна 40 знакова (26 слова, 10 цифара и 4 специјална симбола) са рачунарског терминала.^[18]

Том М. Мичел је дао широко цитирану, формалнију дефиницију алгоритама који се проучавају у области машинског учења: „Каже се да компјутерски програм учи из искуства Е у односу на неку класу задатака Т и меру учинка П, ако се његов учинак на задацима у Т, мерено са П, побољшава са искуством Е.“^[19] Ова дефиниција задатака у којима се машинско учење бави нуди фундаменталну оперативну дефиницију, али не дефинише поље у когнитивном смислу. Овом је следио предлог Алана Тјуринга у његовом раду „Рачунарска машина и интелигенција”, у којем се питање „Могу ли машине да мисле?” замењује питањем „Могу ли машине да ураде оно што ми (као мислећи ентитети) можемо?“.^[20]

Савремено машинско учење има два циља. Један је да се класификују подаци на основу модела који су развијени; а други је да се на основу модела направе предвиђања за будуће исходе. Хипотетички алгоритам специфичан за класификацију података може да користи компјутерски приказ младежа у комбинацији са надгледаним учењем како би се обучио да класификује канцерогене младеже. Алгоритам машинског учења за трговање акцијама може информисати трговца о будућим потенцијалним предвиђањима.^[21]

Види још

Референце

^ The definition "without being explicitly programmed" is often attributed to Arthur Samuel, who coined the term "machine learning" in 1959, but the phrase is not found verbatim in this publication, and may be a paraphrase that appeared later. Confer "Paraphrasing Arthur Samuel (1959), the question is: How can computers learn to solve problems without being explicitly programmed?" in Koza, John R.; Bennett, Forrest H.; Andre, David; Keane, Martin A. (1996). „Automated Design of Both the Topology and Sizing of Analog Electrical Circuits Using Genetic Programming”. Artificial Intelligence in Design '96. Artificial Intelligence in Design '96 (на језику: енглески). Springer, Dordrecht. стр. 151—170. ISBN 978-94-010-6610-5. doi:10.1007/978-94-009-0279-4_9.
^ „What is Machine Learning?”. IBM (на језику: енглески). 22. 9. 2021. Приступљено 2023-06-27.
^ Zhou, Victor (2019-12-20). „Machine Learning for Beginners: An Introduction to Neural Networks”. Medium (на језику: енглески). Архивирано из оригинала 2022-03-09. г. Приступљено 2021-08-15.
^ Hu, Junyan; Niu, Hanlin; Carrasco, Joaquin; Lennox, Barry; Arvin, Farshad (2020). „Voronoi-Based Multi-Robot Autonomous Exploration in Unknown Environments via Deep Reinforcement Learning”. IEEE Transactions on Vehicular Technology. 69 (12): 14413—14423. ISSN 0018-9545. S2CID 228989788. doi:10.1109/tvt.2020.3034800 .
^ Yoosefzadeh-Najafabadi, Mohsen; Hugh, Earl; Tulpan, Dan; Sulik, John; Eskandari, Milad (2021). „Application of Machine Learning Algorithms in Plant Breeding: Predicting Yield From Hyperspectral Reflectance in Soybean?”. Front. Plant Sci. 11: 624273. Bibcode:2021FrPS...1124273Y. PMC 7835636 . PMID 33510761. doi:10.3389/fpls.2020.624273 .
^ Bishop, C. M. (2006), Pattern Recognition and Machine Learning, Springer, ISBN 978-0-387-31073-2
^ Machine learning and pattern recognition "can be viewed as two facets of the same field".^[6]^‍:vii
^ Friedman, Jerome H. (1998). „Data Mining and Statistics: What's the connection?”. Computing Science and Statistics. 29 (1): 3—9.
^ Samuel, Arthur (1959). „Some Studies in Machine Learning Using the Game of Checkers”. IBM Journal of Research and Development. 3 (3): 210—229. CiteSeerX 10.1.1.368.2254 . S2CID 2126705. doi:10.1147/rd.33.0210.
^ R. Kohavi and F. Provost, „Glossary of terms”. Machine Learning. 30 (2–3): 271—274. 1998. doi:10.1023/A:1017181826899. , 1998.
^ Gerovitch, Slava (9. 4. 2015). „How the Computer Got Its Revenge on the Soviet Union”. Nautilus. Архивирано из оригинала 22. 9. 2021. г. Приступљено 19. 9. 2021.
^ Lindsay, Richard P. (1. 9. 1964). „The Impact of Automation On Public Administration”. Western Political Quarterly (на језику: енглески). 17 (3): 78—81. ISSN 0043-4078. S2CID 154021253. doi:10.1177/106591296401700364. Архивирано из оригинала 6. 10. 2021. г. Приступљено 6. 10. 2021.
^ ^а ^б ^в „History and Evolution of Machine Learning: A Timeline”. WhatIs (на језику: енглески). Приступљено 2023-12-08.
^ Milner, Peter M. (1993). „The Mind and Donald O. Hebb”. Scientific American. 268 (1): 124—129. Bibcode:1993SciAm.268a.124M. ISSN 0036-8733. JSTOR 24941344. PMID 8418480. doi:10.1038/scientificamerican0193-124.
^ "Science: The Goof Button", Time (magazine), 18 August 1961.
^ Nilsson N. Learning Machines, McGraw Hill, 1965.
^ Duda, R., Hart P. Pattern Recognition and Scene Analysis, Wiley Interscience, 1973
^ S. Bozinovski „Teaching space: A representation concept for adaptive pattern classification” (PDF). Архивирано из оригинала (PDF) 25. 02. 2021. г. Приступљено 09. 03. 2024. COINS Technical Report No. 81-28, Computer and Information Science Department, University of Massachusetts at Amherst, MA, 1981.
^ Mitchell, T. (1997). Machine Learning. McGraw Hill. стр. 2. ISBN 978-0-07-042807-2.
^ Harnad, Stevan (2008), „The Annotation Game: On Turing (1950) on Computing, Machinery, and Intelligence”, Ур.: Epstein, Robert; Peters, Grace, The Turing Test Sourcebook: Philosophical and Methodological Issues in the Quest for the Thinking Computer, Kluwer, стр. 23—66, ISBN 9781402067082, Архивирано из оригинала 2012-03-09. г., Приступљено 2012-12-11
^ „Introduction to AI Part 1”. Edzion (на језику: енглески). 2020-12-08. Архивирано из оригинала 2021-02-18. г. Приступљено 2020-12-09.

Литература

Domingos, Pedro (22. 9. 2015). The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books. ISBN 978-0465065707.
Nilsson, Nils (1998). Artificial Intelligence: A New Synthesis. Morgan Kaufmann. ISBN 978-1-55860-467-4. Архивирано из оригинала 26. 7. 2020. г. Приступљено 18. 11. 2019.
Poole, David; Mackworth, Alan; Goebel, Randy (1998). Computational Intelligence: A Logical Approach. New York: Oxford University Press. ISBN 978-0-19-510270-3. Архивирано из оригинала 26. 7. 2020. г. Приступљено 22. 8. 2020.
Nils J. Nilsson, „Introduction to Machine Learning”. Архивирано из оригинала 16. 08. 2019. г. Приступљено 09. 03. 2024. .
David J. C. MacKay. Information Theory, Inference, and Learning Algorithms MacKay, David J. C. (2016-02-17). David MacKay: Information Theory, Inference, and Learning Algorithms: The Book. Cambridge University Press. ISBN 978-0-521-64298-9. Архивирано из оригинала 17. 2. 2016. г. Cambridge: Cambridge University Press, 2003.
Stuart Russell & Peter Norvig, (2009). Artificial Intelligence – A Modern Approach Russell, Stuart Jonathan; Norvig, Peter (2011-02-28). Artificial Intelligence: A Modern Approach. Pearson. ISBN 9789332543515. Архивирано из оригинала 28. 2. 2011. г. . Pearson,
Kevin P. Murphy (2021). „Probabilistic Machine Learning: An Introduction”. Архивирано из оригинала 11. 04. 2021. г. Приступљено 09. 03. 2024. , MIT Press.
Sergios Theodoridis, Konstantinos Koutroumbas (2009) "Pattern Recognition", 4th Edition, Academic Press. ISBN 978-1-59749-272-0
Ethem Alpaydın Introduction to Machine Learning (Adaptive Computation and Machine Learning). 2004. ISBN 978-0-262-01211-9. . MIT Press,
Bing Liu , Web Data Mining: Exploring Hyperlinks, Contents and Usage Data. 2007. ISBN 978-3-540-37881-5. Спољашња веза у |title= (помоћ). Springer,
Toby Segaran (2007-08-16). Programming Collective Intelligence. ISBN 978-0-596-52932-1. . O'Reilly
Ray Solomonoff, "An Inductive Inference Machine" A privately circulated report from the 1956 Dartmouth Summer Research Conference on AI.
Ray Solomonoff, An Inductive Inference Machine, IRE Convention Record, Section on Information Theory, Part 2, pp., 56-62, 1957.
Ryszard S. Michalski, Jaime G. Carbonell, Tom M. Mitchell , Machine Learning: An Artificial Intelligence Approach. 1983. ISBN 978-0-935382-05-1. . Tioga Publishing Company,
Ryszard S. Michalski, Jaime G. Carbonell, Tom M. Mitchell , Machine Learning: An Artificial Intelligence Approach, Volume II. 1986. ISBN 978-0-934613-00-2. . Morgan Kaufmann,
Yves Kodratoff, Ryszard S. Michalski , Machine Learning: An Artificial Intelligence Approach, Volume III. 1990. ISBN 978-1-55860-119-2. . Morgan Kaufmann,
Ryszard S. Michalski, George Tecuci , Machine Learning: A Multistrategy Approach. 1994. ISBN 978-1-55860-251-9. . Volume IV, Morgan Kaufmann,
Bishop, C.M. . Neural Networks for Pattern Recognition. 1995. ISBN 978-0-19-853864-6. . Oxford University Press.
Richard O. Duda, Peter E. Hart, David G. Stork Pattern classification (2nd изд.). 2001. ISBN 978-0-471-05669-0. . , Wiley, New York,
Huang T.-M., Kecman V., Kopriva I. (2006), Kernel Based Algorithms for Mining Huge Data Sets, Supervised, Semi-supervised, and Unsupervised Learning, Springer-Verlag, Berlin, Heidelberg, 260 pp. 96 illus., Hardcover, ISBN 978-3-540-31681-7
KECMAN Vojislav (2001), Learning and Soft Computing, Support Vector Machines, Neural Networks and Fuzzy Logic Models, The MIT Press, Cambridge, MA, 608 pp., 268 illus., ISBN 978-0-262-11255-0
Ian H. Witten and Eibe Frank Data Mining: Practical machine learning tools and techniques. ISBN 978-0-12-088407-0. . Morgan Kaufmann
Sholom Weiss and Casimir Kulikowski (1991). Computer Systems That Learn. Morgan Kaufmann. ISBN 978-1-55860-065-2.
Mierswa, Ingo and Wurst, Michael and Klinkenberg, Ralf and Scholz, Martin and Euler, Timm: YALE: Rapid Prototyping for Complex Data Mining Tasks, in Proceedings of the 12th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD-06), 2006.
Trevor Hastie, Robert Tibshirani and Jerome Friedman (2001). The Elements of Statistical Learning. Springer. ISBN 978-0-387-95284-0. Архивирано из оригинала 10. 11. 2009. г. Приступљено 31. 08. 2018.
Vladimir Vapnik (1998). Statistical Learning Theory. Wiley-Interscience. ISBN 978-0-471-03003-4.