tum.de/fall2018/ in2357

Wielkość: px
Rozpocząć pokaz od strony:

Download "tum.de/fall2018/ in2357"

Transkrypt

1 tum.de/fall2018/ in2357

2 Prof. Daniel Cremers From to Classification

3 Categories of Learning (Rep.) Learning Unsupervised Learning clustering, density estimation Supervised Learning learning from a training data set, inference on the test data Reinforcement Learning no supervision, but a reward function Classification target set is continuous, e.g. Y = R target set is discrete, e.g. Y =[1,...,C] Computer Vision!3

4 Visualisation Linear Principle: Minimise loss function during training Use the found parameters for prediction!4

5 <latexit sha1_base64="d5mi7+ixmi6um1wcsmnlep5ahzo=">aaacqhiczvhbbtnaen2ywwmxpvdiy4ooukglsimkekzghzdkqsjnur2i9xqsrloxa3emhfn+cr6gv/gk/ozxakgbjrsrs2duo3oyqquacfynf925e+/+g72h/uepnzzdhxw8owuu9bkm0mnnzzmrqcslu1so4bzwieymyzzdfmz9s+/gg3l2c24kmbuxsmqppecifom3xsf+s0vanhqv82qlj+ghcj0t66r5j7f5trgm4+n4a/w2sdowzj1nfgc9mezolgyssi1cuejiaue18kikhqaflgekis/fci4iwmegzovtxa0fezpzpfn0lpitez2jfiaejckosv1j2pw15d/f6lotq7zi2ompy/fzwtmirldyqv2y1bwdb1fhc+vbot4qenirmodltfbcii34rqvwjfzil5pu6uw7fbclycbdtsprlap0trldw/mi01poqyf3p+zdfa5sqkgprj8ngnkvlhrvp6i6fehvrekgph7htz9ksxzfua3oxscj4c9vhycfooh22av2kh2yhl1jj+wtm7apk+wh+8l+sd/r62gszakvv6frr8t5zm5ylp0fjypueg==</latexit> <latexit sha1_base64="d5mi7+ixmi6um1wcsmnlep5ahzo=">aaacqhiczvhbbtnaen2ywwmxpvdiy4ooukglsimkekzghzdkqsjnur2i9xqsrloxa3emhfn+cr6gv/gk/ozxakgbjrsrs2duo3oyqquacfynf925e+/+g72h/uepnzzdhxw8owuu9bkm0mnnzzmrqcslu1so4bzwieymyzzdfmz9s+/gg3l2c24kmbuxsmqppecifom3xsf+s0vanhqv82qlj+ghcj0t66r5j7f5trgm4+n4a/w2sdowzj1nfgc9mezolgyssi1cuejiaue18kikhqaflgekis/fci4iwmegzovtxa0fezpzpfn0lpitez2jfiaejckosv1j2pw15d/f6lotq7zi2ompy/fzwtmirldyqv2y1bwdb1fhc+vbot4qenirmodltfbcii34rqvwjfzil5pu6uw7fbclycbdtsprlap0trldw/mi01poqyf3p+zdfa5sqkgprj8ngnkvlhrvp6i6fehvrekgph7htz9ksxzfua3oxscj4c9vhycfooh22av2kh2yhl1jj+wtm7apk+wh+8l+sd/r62gszakvv6frr8t5zm5ylp0fjypueg==</latexit> <latexit sha1_base64="d5mi7+ixmi6um1wcsmnlep5ahzo=">aaacqhiczvhbbtnaen2ywwmxpvdiy4ooukglsimkekzghzdkqsjnur2i9xqsrloxa3emhfn+cr6gv/gk/ozxakgbjrsrs2duo3oyqquacfynf925e+/+g72h/uepnzzdhxw8owuu9bkm0mnnzzmrqcslu1so4bzwieymyzzdfmz9s+/gg3l2c24kmbuxsmqppecifom3xsf+s0vanhqv82qlj+ghcj0t66r5j7f5trgm4+n4a/w2sdowzj1nfgc9mezolgyssi1cuejiaue18kikhqaflgekis/fci4iwmegzovtxa0fezpzpfn0lpitez2jfiaejckosv1j2pw15d/f6lotq7zi2ompy/fzwtmirldyqv2y1bwdb1fhc+vbot4qenirmodltfbcii34rqvwjfzil5pu6uw7fbclycbdtsprlap0trldw/mi01poqyf3p+zdfa5sqkgprj8ngnkvlhrvp6i6fehvrekgph7htz9ksxzfua3oxscj4c9vhycfooh22av2kh2yhl1jj+wtm7apk+wh+8l+sd/r62gszakvv6frr8t5zm5ylp0fjypueg==</latexit> <latexit sha1_base64="d5mi7+ixmi6um1wcsmnlep5ahzo=">aaacqhiczvhbbtnaen2ywwmxpvdiy4ooukglsimkekzghzdkqsjnur2i9xqsrloxa3emhfn+cr6gv/gk/ozxakgbjrsrs2duo3oyqquacfynf925e+/+g72h/uepnzzdhxw8owuu9bkm0mnnzzmrqcslu1so4bzwieymyzzdfmz9s+/gg3l2c24kmbuxsmqppecifom3xsf+s0vanhqv82qlj+ghcj0t66r5j7f5trgm4+n4a/w2sdowzj1nfgc9mezolgyssi1cuejiaue18kikhqaflgekis/fci4iwmegzovtxa0fezpzpfn0lpitez2jfiaejckosv1j2pw15d/f6lotq7zi2ompy/fzwtmirldyqv2y1bwdb1fhc+vbot4qenirmodltfbcii34rqvwjfzil5pu6uw7fbclycbdtsprlap0trldw/mi01poqyf3p+zdfa5sqkgprj8ngnkvlhrvp6i6fehvrekgph7htz9ksxzfua3oxscj4c9vhycfooh22av2kh2yhl1jj+wtm7apk+wh+8l+sd/r62gszakvv6frr8t5zm5ylp0fjypueg==</latexit> <latexit sha1_base64="y+un4abymsibp4d5znhp5y0fsuy=">aaacphiczvhbbtnaen2ywwm3fb55wreftvjv2resfazghqcqfuhasnwi1utxsupern1xswt5g/gaxue7+bvgqanadkrdnt1z25mtlvofjoo/veje/qcph2097j95+uz5i8h2y5pgki9hip12/iwtabsymegfgs5kd8jkgk6zi4+t//qsffdofsnvcvmj5lyvsgokajbylxdsi3crffwphqdg5fz/e9nsxwnsdmedybwfr43fbukhhqyz49l2t6a5k5ubi1klem6tumrpltwqqahpp1wausglmydzglyycnn6pvpdr8tkvhcejkw+zm9m1mkesdizrbz/dju+lrz2jw46cdlwdbv9stiy1sqwfykvv+2lsnn0vf0bz5uhixpfqeivaaiuf8ilibtcw5vajfi9x2m6ptpt9mfwjgmpoq2v547sf2ymdecjtmuhbqxe/zh3vbiyaywmgv00aepxwwpuh4nlkucvlirsaopx3prjlmrthlvgzlyfep7ybnj4ornoi71mb9gos9h7dsg+swm2yzl9zl/yb/yneht9jr5gk6vqqnflvgk3lpr+d0nb01m=</latexit> <latexit sha1_base64="y+un4abymsibp4d5znhp5y0fsuy=">aaacphiczvhbbtnaen2ywwm3fb55wreftvjv2resfazghqcqfuhasnwi1utxsupern1xswt5g/gaxue7+bvgqanadkrdnt1z25mtlvofjoo/veje/qcph2097j95+uz5i8h2y5pgki9hip12/iwtabsymegfgs5kd8jkgk6zi4+t//qsffdofsnvcvmj5lyvsgokajbylxdsi3crffwphqdg5fz/e9nsxwnsdmedybwfr43fbukhhqyz49l2t6a5k5ubi1klem6tumrpltwqqahpp1wausglmydzglyycnn6pvpdr8tkvhcejkw+zm9m1mkesdizrbz/dju+lrz2jw46cdlwdbv9stiy1sqwfykvv+2lsnn0vf0bz5uhixpfqeivaaiuf8ilibtcw5vajfi9x2m6ptpt9mfwjgmpoq2v547sf2ymdecjtmuhbqxe/zh3vbiyaywmgv00aepxwwpuh4nlkucvlirsaopx3prjlmrthlvgzlyfep7ybnj4ornoi71mb9gos9h7dsg+swm2yzl9zl/yb/yneht9jr5gk6vqqnflvgk3lpr+d0nb01m=</latexit> <latexit sha1_base64="y+un4abymsibp4d5znhp5y0fsuy=">aaacphiczvhbbtnaen2ywwm3fb55wreftvjv2resfazghqcqfuhasnwi1utxsupern1xswt5g/gaxue7+bvgqanadkrdnt1z25mtlvofjoo/veje/qcph2097j95+uz5i8h2y5pgki9hip12/iwtabsymegfgs5kd8jkgk6zi4+t//qsffdofsnvcvmj5lyvsgokajbylxdsi3crffwphqdg5fz/e9nsxwnsdmedybwfr43fbukhhqyz49l2t6a5k5ubi1klem6tumrpltwqqahpp1wausglmydzglyycnn6pvpdr8tkvhcejkw+zm9m1mkesdizrbz/dju+lrz2jw46cdlwdbv9stiy1sqwfykvv+2lsnn0vf0bz5uhixpfqeivaaiuf8ilibtcw5vajfi9x2m6ptpt9mfwjgmpoq2v547sf2ymdecjtmuhbqxe/zh3vbiyaywmgv00aepxwwpuh4nlkucvlirsaopx3prjlmrthlvgzlyfep7ybnj4ornoi71mb9gos9h7dsg+swm2yzl9zl/yb/yneht9jr5gk6vqqnflvgk3lpr+d0nb01m=</latexit> <latexit sha1_base64="y+un4abymsibp4d5znhp5y0fsuy=">aaacphiczvhbbtnaen2ywwm3fb55wreftvjv2resfazghqcqfuhasnwi1utxsupern1xswt5g/gaxue7+bvgqanadkrdnt1z25mtlvofjoo/veje/qcph2097j95+uz5i8h2y5pgki9hip12/iwtabsymegfgs5kd8jkgk6zi4+t//qsffdofsnvcvmj5lyvsgokajbylxdsi3crffwphqdg5fz/e9nsxwnsdmedybwfr43fbukhhqyz49l2t6a5k5ubi1klem6tumrpltwqqahpp1wausglmydzglyycnn6pvpdr8tkvhcejkw+zm9m1mkesdizrbz/dju+lrz2jw46cdlwdbv9stiy1sqwfykvv+2lsnn0vf0bz5uhixpfqeivaaiuf8ilibtcw5vajfi9x2m6ptpt9mfwjgmpoq2v547sf2ymdecjtmuhbqxe/zh3vbiyaywmgv00aepxwwpuh4nlkucvlirsaopx3prjlmrthlvgzlyfep7ybnj4ornoi71mb9gos9h7dsg+swm2yzl9zl/yb/yneht9jr5gk6vqqnflvgk3lpr+d0nb01m=</latexit> Visualisation Linear Principle: Minimise loss function during training Use the found parameters for prediction Bayesian Linear Principle: Compute parameter posterior p(w x, t) from training data During inference, compute the predictive distribution p(t x, x, t) Advantages: Less tendency of overfitting Probabilistic interpretation, uncertainty estimation!5

6 Visualisation Linear Logistic Bayesian Linear probabilistic reasoning from regression to classification!6

7 <latexit sha1_base64="fasvtz9uyaydbxh/4tnroxwumik=">aaacm3iczvhbahsxejw3t9s9xgkfs0hugbzaml1tsf8koxkppyeu6isqnwzwo7zfdfmk2wcz7gu/pq/tv/rvqnwwkjgdeoczzrnnovmhpkc4/tuj7t1/8pdrzupuk6fpnu/29l6cels6grnhlxxngxhu0ucejck8lxyczhsezzdhtf3scp2x1vygdyftdqsj51iahdssx1mvfxqgsm8/8xtuqfrjxsvvu1wvw/ewx896/xgub4lfbukl+qynk9ler6s5favgq0kb9xdjxnc0akdskky7aemxahejc7wi0ibgp602q9r8edi5n1sxjig+yd7sqeb7v9zzekmbln671it/1wy3i7rqgp3wfjp/nfbsfcwhedfj56xizhmjfs+lq0fqhqaij8mgxcwhqerb01tmjqh5o1eqcaurm+29kxwgdvowvfry0l7uy6w5h/agsxdi8/bhvgxh0ngcfti6qucstjrhuhumq2mgj1fbt19x47jublusbrpugtpxkilhyfcp/cpprue77bv7w4ysyqfskh1hj2zcbpvjfrhf7e/0ojqkvkbfrp9gnbbnjbsv0eqf97dn+g==</latexit> <latexit sha1_base64="fasvtz9uyaydbxh/4tnroxwumik=">aaacm3iczvhbahsxejw3t9s9xgkfs0hugbzaml1tsf8koxkppyeu6isqnwzwo7zfdfmk2wcz7gu/pq/tv/rvqnwwkjgdeoczzrnnovmhpkc4/tuj7t1/8pdrzupuk6fpnu/29l6cels6grnhlxxngxhu0ucejck8lxyczhsezzdhtf3scp2x1vygdyftdqsj51iahdssx1mvfxqgsm8/8xtuqfrjxsvvu1wvw/ewx896/xgub4lfbukl+qynk9ler6s5favgq0kb9xdjxnc0akdskky7aemxahejc7wi0ibgp602q9r8edi5n1sxjig+yd7sqeb7v9zzekmbln671it/1wy3i7rqgp3wfjp/nfbsfcwhedfj56xizhmjfs+lq0fqhqaij8mgxcwhqerb01tmjqh5o1eqcaurm+29kxwgdvowvfry0l7uy6w5h/agsxdi8/bhvgxh0ngcfti6qucstjrhuhumq2mgj1fbt19x47jublusbrpugtpxkilhyfcp/cpprue77bv7w4ysyqfskh1hj2zcbpvjfrhf7e/0ojqkvkbfrp9gnbbnjbsv0eqf97dn+g==</latexit> <latexit sha1_base64="fasvtz9uyaydbxh/4tnroxwumik=">aaacm3iczvhbahsxejw3t9s9xgkfs0hugbzaml1tsf8koxkppyeu6isqnwzwo7zfdfmk2wcz7gu/pq/tv/rvqnwwkjgdeoczzrnnovmhpkc4/tuj7t1/8pdrzupuk6fpnu/29l6cels6grnhlxxngxhu0ucejck8lxyczhsezzdhtf3scp2x1vygdyftdqsj51iahdssx1mvfxqgsm8/8xtuqfrjxsvvu1wvw/ewx896/xgub4lfbukl+qynk9ler6s5favgq0kb9xdjxnc0akdskky7aemxahejc7wi0ibgp602q9r8edi5n1sxjig+yd7sqeb7v9zzekmbln671it/1wy3i7rqgp3wfjp/nfbsfcwhedfj56xizhmjfs+lq0fqhqaij8mgxcwhqerb01tmjqh5o1eqcaurm+29kxwgdvowvfry0l7uy6w5h/agsxdi8/bhvgxh0ngcfti6qucstjrhuhumq2mgj1fbt19x47jublusbrpugtpxkilhyfcp/cpprue77bv7w4ysyqfskh1hj2zcbpvjfrhf7e/0ojqkvkbfrp9gnbbnjbsv0eqf97dn+g==</latexit> <latexit sha1_base64="fasvtz9uyaydbxh/4tnroxwumik=">aaacm3iczvhbahsxejw3t9s9xgkfs0hugbzaml1tsf8koxkppyeu6isqnwzwo7zfdfmk2wcz7gu/pq/tv/rvqnwwkjgdeoczzrnnovmhpkc4/tuj7t1/8pdrzupuk6fpnu/29l6cels6grnhlxxngxhu0ucejck8lxyczhsezzdhtf3scp2x1vygdyftdqsj51iahdssx1mvfxqgsm8/8xtuqfrjxsvvu1wvw/ewx896/xgub4lfbukl+qynk9ler6s5favgq0kb9xdjxnc0akdskky7aemxahejc7wi0ibgp602q9r8edi5n1sxjig+yd7sqeb7v9zzekmbln671it/1wy3i7rqgp3wfjp/nfbsfcwhedfj56xizhmjfs+lq0fqhqaij8mgxcwhqerb01tmjqh5o1eqcaurm+29kxwgdvowvfry0l7uy6w5h/agsxdi8/bhvgxh0ngcfti6qucstjrhuhumq2mgj1fbt19x47jublusbrpugtpxkilhyfcp/cpprue77bv7w4ysyqfskh1hj2zcbpvjfrhf7e/0ojqkvkbfrp9gnbbnjbsv0eqf97dn+g==</latexit> Logistic To convert the regression problem into a classification problem, we use a sigmoid function σ(), e.g.: (a) = exp( a) This can be interpreted as a classification probability!7

8 <latexit sha1_base64="mwcjp0wao1t17m3bymctiqqwdyy=">aaacyhiczvhbattaef2rt9s9oe1jx5yaqwimscbqvgrc+1iklinessbyxwq1spfsrdkdnrzcl/2lfk1e2x/pybehcqakpczzmdkzjy2u9bcg173g0emnt59tpe+/epnq9zvb9tstb0vhxyxbzd1zyrxq0ogzsfdirhcc6vsj0/tis8uf/hlos2uoosrexlofkbnkddcvdkzviukbjb1calytawblnk+vmp/hne6tynyl8ajjyimbw3rvjhj3l8axlyxlqdyixnfmwy+/j4nhubeugz4euqegpiujzlvhszsxwhjginl/houfzgvmqhilmn5celewfsew4hyhyvr4eb3w3darzjkaw4efabro3q2omfatalzzvtxvcm3ylhvdjwhvdvqb8yh/nk+lkuoqht+mz0tfwdj2ttsttnbqfqlgnuqflc+zyxzqghudwreysssv/rnvrxpvsp0kjziurxywy5d6ihpkrxtxggvythsx7bpqatwwht36srfabwlwud1lqykdj1dovm/qsdj00zzo04sh4gsyfyh+st88/nwztexekw9kh0tkizkkx8krmrfo/pbr8pf8c74frxavvddxg15x847ci+d3f0wj4xg=</latexit> <latexit sha1_base64="mwcjp0wao1t17m3bymctiqqwdyy=">aaacyhiczvhbattaef2rt9s9oe1jx5yaqwimscbqvgrc+1iklinessbyxwq1spfsrdkdnrzcl/2lfk1e2x/pybehcqakpczzmdkzjy2u9bcg173g0emnt59tpe+/epnq9zvb9tstb0vhxyxbzd1zyrxq0ogzsfdirhcc6vsj0/tis8uf/hlos2uoosrexlofkbnkddcvdkzviukbjb1calytawblnk+vmp/hne6tynyl8ajjyimbw3rvjhj3l8axlyxlqdyixnfmwy+/j4nhubeugz4euqegpiujzlvhszsxwhjginl/houfzgvmqhilmn5celewfsew4hyhyvr4eb3w3darzjkaw4efabro3q2omfatalzzvtxvcm3ylhvdjwhvdvqb8yh/nk+lkuoqht+mz0tfwdj2ttsttnbqfqlgnuqflc+zyxzqghudwreysssv/rnvrxpvsp0kjziurxywy5d6ihpkrxtxggvythsx7bpqatwwht36srfabwlwud1lqykdj1dovm/qsdj00zzo04sh4gsyfyh+st88/nwztexekw9kh0tkizkkx8krmrfo/pbr8pf8c74frxavvddxg15x847ci+d3f0wj4xg=</latexit> <latexit sha1_base64="mwcjp0wao1t17m3bymctiqqwdyy=">aaacyhiczvhbattaef2rt9s9oe1jx5yaqwimscbqvgrc+1iklinessbyxwq1spfsrdkdnrzcl/2lfk1e2x/pybehcqakpczzmdkzjy2u9bcg173g0emnt59tpe+/epnq9zvb9tstb0vhxyxbzd1zyrxq0ogzsfdirhcc6vsj0/tis8uf/hlos2uoosrexlofkbnkddcvdkzviukbjb1calytawblnk+vmp/hne6tynyl8ajjyimbw3rvjhj3l8axlyxlqdyixnfmwy+/j4nhubeugz4euqegpiujzlvhszsxwhjginl/houfzgvmqhilmn5celewfsew4hyhyvr4eb3w3darzjkaw4efabro3q2omfatalzzvtxvcm3ylhvdjwhvdvqb8yh/nk+lkuoqht+mz0tfwdj2ttsttnbqfqlgnuqflc+zyxzqghudwreysssv/rnvrxpvsp0kjziurxywy5d6ihpkrxtxggvythsx7bpqatwwht36srfabwlwud1lqykdj1dovm/qsdj00zzo04sh4gsyfyh+st88/nwztexekw9kh0tkizkkx8krmrfo/pbr8pf8c74frxavvddxg15x847ci+d3f0wj4xg=</latexit> <latexit sha1_base64="mwcjp0wao1t17m3bymctiqqwdyy=">aaacyhiczvhbattaef2rt9s9oe1jx5yaqwimscbqvgrc+1iklinessbyxwq1spfsrdkdnrzcl/2lfk1e2x/pybehcqakpczzmdkzjy2u9bcg173g0emnt59tpe+/epnq9zvb9tstb0vhxyxbzd1zyrxq0ogzsfdirhcc6vsj0/tis8uf/hlos2uoosrexlofkbnkddcvdkzviukbjb1calytawblnk+vmp/hne6tynyl8ajjyimbw3rvjhj3l8axlyxlqdyixnfmwy+/j4nhubeugz4euqegpiujzlvhszsxwhjginl/houfzgvmqhilmn5celewfsew4hyhyvr4eb3w3darzjkaw4efabro3q2omfatalzzvtxvcm3ylhvdjwhvdvqb8yh/nk+lkuoqht+mz0tfwdj2ttsttnbqfqlgnuqflc+zyxzqghudwreysssv/rnvrxpvsp0kjziurxywy5d6ihpkrxtxggvythsx7bpqatwwht36srfabwlwud1lqykdj1dovm/qsdj00zzo04sh4gsyfyh+st88/nwztexekw9kh0tkizkkx8krmrfo/pbr8pf8c74frxavvddxg15x847ci+d3f0wj4xg=</latexit> <latexit sha1_base64="3auk+0ftdbq8bgrhhjsq0kfqonq=">aaacrniczvfba9swffa8w5fd0u1xl2ihkeipdjryxgzle9lloymmldrekoxjwfqxix1vdsy/zl9mr9tp6l+pnjqttq9i+ntu53xpkyxdmlwaba8epnr8zofp8nnzfy9fjxzfl5yplic5n9ly85q5keldhavkoc8tmjvkoesvv3t2sx9gntd6fncljiqttmgfz+hvy9fhpq33y8wwsppmz7thp9h/v++nne6nznxa+aejy0k003pvorqhb+fg6h0q9wbmejlz7g54nblekddijxpuigpltbpmuxaj7tcuhjsmx7ivxhiomqkxnjvpwjrxmozmxvqjkw60tymaplzxoffsonfbtk75zza5bcs6y+i26mp+mwmelisezw/k55wkagi3qjojcxzl2gpgrfatuf4wyzj6nd/j1hgs7dtk+psb1u3vdkvssjd54exk+pbczacldel9wvycho07pn0wkrrdjn2oyewauam0l9qcs/qyorw1p9i1zsxsh56wajue+2axo4g8/vz+fps5j2ihvcxvyjre5am5il/jczkttn6r3+qp+ruewsjiguwnazdoy96qoxiu16jr1zq=</latexit> <latexit sha1_base64="3auk+0ftdbq8bgrhhjsq0kfqonq=">aaacrniczvfba9swffa8w5fd0u1xl2ihkeipdjryxgzle9lloymmldrekoxjwfqxix1vdsy/zl9mr9tp6l+pnjqttq9i+ntu53xpkyxdmlwaba8epnr8zofp8nnzfy9fjxzfl5yplic5n9ly85q5keldhavkoc8tmjvkoesvv3t2sx9gntd6fncljiqttmgfz+hvy9fhpq33y8wwsppmz7thp9h/v++nne6nznxa+aejy0k003pvorqhb+fg6h0q9wbmejlz7g54nblekddijxpuigpltbpmuxaj7tcuhjsmx7ivxhiomqkxnjvpwjrxmozmxvqjkw60tymaplzxoffsonfbtk75zza5bcs6y+i26mp+mwmelisezw/k55wkagi3qjojcxzl2gpgrfatuf4wyzj6nd/j1hgs7dtk+psb1u3vdkvssjd54exk+pbczacldel9wvycho07pn0wkrrdjn2oyewauam0l9qcs/qyorw1p9i1zsxsh56wajue+2axo4g8/vz+fps5j2ihvcxvyjre5am5il/jczkttn6r3+qp+ruewsjiguwnazdoy96qoxiu16jr1zq=</latexit> <latexit sha1_base64="3auk+0ftdbq8bgrhhjsq0kfqonq=">aaacrniczvfba9swffa8w5fd0u1xl2ihkeipdjryxgzle9lloymmldrekoxjwfqxix1vdsy/zl9mr9tp6l+pnjqttq9i+ntu53xpkyxdmlwaba8epnr8zofp8nnzfy9fjxzfl5yplic5n9ly85q5keldhavkoc8tmjvkoesvv3t2sx9gntd6fncljiqttmgfz+hvy9fhpq33y8wwsppmz7thp9h/v++nne6nznxa+aejy0k003pvorqhb+fg6h0q9wbmejlz7g54nblekddijxpuigpltbpmuxaj7tcuhjsmx7ivxhiomqkxnjvpwjrxmozmxvqjkw60tymaplzxoffsonfbtk75zza5bcs6y+i26mp+mwmelisezw/k55wkagi3qjojcxzl2gpgrfatuf4wyzj6nd/j1hgs7dtk+psb1u3vdkvssjd54exk+pbczacldel9wvycho07pn0wkrrdjn2oyewauam0l9qcs/qyorw1p9i1zsxsh56wajue+2axo4g8/vz+fps5j2ihvcxvyjre5am5il/jczkttn6r3+qp+ruewsjiguwnazdoy96qoxiu16jr1zq=</latexit> <latexit sha1_base64="3auk+0ftdbq8bgrhhjsq0kfqonq=">aaacrniczvfba9swffa8w5fd0u1xl2ihkeipdjryxgzle9lloymmldrekoxjwfqxix1vdsy/zl9mr9tp6l+pnjqttq9i+ntu53xpkyxdmlwaba8epnr8zofp8nnzfy9fjxzfl5yplic5n9ly85q5keldhavkoc8tmjvkoesvv3t2sx9gntd6fncljiqttmgfz+hvy9fhpq33y8wwsppmz7thp9h/v++nne6nznxa+aejy0k003pvorqhb+fg6h0q9wbmejlz7g54nblekddijxpuigpltbpmuxaj7tcuhjsmx7ivxhiomqkxnjvpwjrxmozmxvqjkw60tymaplzxoffsonfbtk75zza5bcs6y+i26mp+mwmelisezw/k55wkagi3qjojcxzl2gpgrfatuf4wyzj6nd/j1hgs7dtk+psb1u3vdkvssjd54exk+pbczacldel9wvycho07pn0wkrrdjn2oyewauam0l9qcs/qyorw1p9i1zsxsh56wajue+2axo4g8/vz+fps5j2ihvcxvyjre5am5il/jczkttn6r3+qp+ruewsjiguwnazdoy96qoxiu16jr1zq=</latexit> Logistic To convert the regression problem into a classification problem, we use a sigmoid function σ() We still use our linear prediction model f(x, w) =w T (x) but now we use the sigmoid function to model a foreground class probability y i = (w T (x i )) i =1,...,N Thus, we consider a two-class problem (binary classification).!8

9 <latexit sha1_base64="ajw1t1ccv3j9oye5zypdkuciifq=">aaacs3iczvfna9taef2rx6n75bthxpyagw1pkexlcyme9tjliiu6cviowk1w9pl9eluj1mbrx+mv6bw999905iisoananubtzoybl1dkeojjv73o3v0hdx/tpe4/efrs+yvb/sszb2vhxyxbzd1fzrxq0ogzsfdionkc6vyj8/zqc8uffxfos2u+waysc82wrpasm8bunjiqxpbjmmpz0humd1lnyjwx4uczor/pjpoxafmgjpo3+do5dagwmwmywta+jldb74kka0psxwm23+npyxmthqgumpfzjk5gezgdyzvo+mntrcx4fvukouldtpclsjxy0bfmclpah58bus3erahme7/rod5sffhdrk3+50y3svi3hf3ofcipfkgaqgzh+px4slyulg23savpbae1qcc4k6ia8hvzjapu+lan1pjiwnukt251q96bwufciqlfq6xf8pweiobsecw14ii87v5muy5ugg9myy9+6gvwwxscfe7y+osbk2v02tdhgjd9tcxzneeuojsejoi/vhsef+om2iovyrsyjgn5qi7jf3jkzostn+qx+u3+ro+jezrhxfxvqnfvvck3itl/al3w124=</latexit> <latexit sha1_base64="ajw1t1ccv3j9oye5zypdkuciifq=">aaacs3iczvfna9taef2rx6n75bthxpyagw1pkexlcyme9tjliiu6cviowk1w9pl9eluj1mbrx+mv6bw999905iisoananubtzoybl1dkeojjv73o3v0hdx/tpe4/efrs+yvb/sszb2vhxyxbzd1fzrxq0ogzsfdionkc6vyj8/zqc8uffxfos2u+waysc82wrpasm8bunjiqxpbjmmpz0humd1lnyjwx4uczor/pjpoxafmgjpo3+do5dagwmwmywta+jldb74kka0psxwm23+npyxmthqgumpfzjk5gezgdyzvo+mntrcx4fvukouldtpclsjxy0bfmclpah58bus3erahme7/rod5sffhdrk3+50y3svi3hf3ofcipfkgaqgzh+px4slyulg23savpbae1qcc4k6ia8hvzjapu+lan1pjiwnukt251q96bwufciqlfq6xf8pweiobsecw14ii87v5muy5ugg9myy9+6gvwwxscfe7y+osbk2v02tdhgjd9tcxzneeuojsejoi/vhsef+om2iovyrsyjgn5qi7jf3jkzostn+qx+u3+ro+jezrhxfxvqnfvvck3itl/al3w124=</latexit> <latexit sha1_base64="ajw1t1ccv3j9oye5zypdkuciifq=">aaacs3iczvfna9taef2rx6n75bthxpyagw1pkexlcyme9tjliiu6cviowk1w9pl9eluj1mbrx+mv6bw999905iisoananubtzoybl1dkeojjv73o3v0hdx/tpe4/efrs+yvb/sszb2vhxyxbzd1fzrxq0ogzsfdionkc6vyj8/zqc8uffxfos2u+waysc82wrpasm8bunjiqxpbjmmpz0humd1lnyjwx4uczor/pjpoxafmgjpo3+do5dagwmwmywta+jldb74kka0psxwm23+npyxmthqgumpfzjk5gezgdyzvo+mntrcx4fvukouldtpclsjxy0bfmclpah58bus3erahme7/rod5sffhdrk3+50y3svi3hf3ofcipfkgaqgzh+px4slyulg23savpbae1qcc4k6ia8hvzjapu+lan1pjiwnukt251q96bwufciqlfq6xf8pweiobsecw14ii87v5muy5ugg9myy9+6gvwwxscfe7y+osbk2v02tdhgjd9tcxzneeuojsejoi/vhsef+om2iovyrsyjgn5qi7jf3jkzostn+qx+u3+ro+jezrhxfxvqnfvvck3itl/al3w124=</latexit> <latexit sha1_base64="ajw1t1ccv3j9oye5zypdkuciifq=">aaacs3iczvfna9taef2rx6n75bthxpyagw1pkexlcyme9tjliiu6cviowk1w9pl9eluj1mbrx+mv6bw999905iisoananubtzoybl1dkeojjv73o3v0hdx/tpe4/efrs+yvb/sszb2vhxyxbzd1fzrxq0ogzsfdionkc6vyj8/zqc8uffxfos2u+waysc82wrpasm8bunjiqxpbjmmpz0humd1lnyjwx4uczor/pjpoxafmgjpo3+do5dagwmwmywta+jldb74kka0psxwm23+npyxmthqgumpfzjk5gezgdyzvo+mntrcx4fvukouldtpclsjxy0bfmclpah58bus3erahme7/rod5sffhdrk3+50y3svi3hf3ofcipfkgaqgzh+px4slyulg23savpbae1qcc4k6ia8hvzjapu+lan1pjiwnukt251q96bwufciqlfq6xf8pweiobsecw14ii87v5muy5ugg9myy9+6gvwwxscfe7y+osbk2v02tdhgjd9tcxzneeuojsejoi/vhsef+om2iovyrsyjgn5qi7jf3jkzostn+qx+u3+ro+jezrhxfxvqnfvvck3itl/al3w124=</latexit> <latexit sha1_base64="jov2hse3yko07lmwbnupurvduri=">aaaczniczvjba9swffa8w5fd0u1xl2ihkeepdihsl4xsveyljwnlw6gzi8tyiqqlky5bbyp2ur+0n9knvnb/ynlijjq9iphp3m/5lbacwwjd607w6pgtp8+2nndfvhz1+k1v++2j1awhbek10oysjzyjrtgeoah2vhhgzcryaxrxpbgfxjjjuvy/yfgwqsqzxxnocxhv0vtedgnjyj7mntgcs57hu3fldu7glfui93fcgj0lnd+p3m9jxawh4auikuhrrkmvh+6gs8epqdscpmplngx3ajxpwkqmgapi7xkufjctiqfobxpdulssipsczni5h4pizqf1cnqhb16t4vwbfxtgpxy9oibs2ovmvwfto920ncr/tsg6eaomo92od/nnac1vuqjtdfu+lwugjzsf44wbrkespcducd8bpnnicavpw71mdwfzjimfv6mwzfrwltjlhmv+edhtpnwur8xhpmb+lx5bfrcd4zyl5socet5hn7ymqc6vl1qfkeqigogv/wlw1apqdt0t0syjd8hjadfy+nte/+cwjwglvucf0bbf6bm6qf/rge0qrx/qdbpff4nxcbm44nfknei0me/qpql+/wnugupb</latexit> <latexit sha1_base64="jov2hse3yko07lmwbnupurvduri=">aaaczniczvjba9swffa8w5fd0u1xl2ihkeepdihsl4xsveyljwnlw6gzi8tyiqqlky5bbyp2ur+0n9knvnb/ynlijjq9iphp3m/5lbacwwjd607w6pgtp8+2nndfvhz1+k1v++2j1awhbek10oysjzyjrtgeoah2vhhgzcryaxrxpbgfxjjjuvy/yfgwqsqzxxnocxhv0vtedgnjyj7mntgcs57hu3fldu7glfui93fcgj0lnd+p3m9jxawh4auikuhrrkmvh+6gs8epqdscpmplngx3ajxpwkqmgapi7xkufjctiqfobxpdulssipsczni5h4pizqf1cnqhb16t4vwbfxtgpxy9oibs2ovmvwfto920ncr/tsg6eaomo92od/nnac1vuqjtdfu+lwugjzsf44wbrkespcducd8bpnnicavpw71mdwfzjimfv6mwzfrwltjlhmv+edhtpnwur8xhpmb+lx5bfrcd4zyl5socet5hn7ymqc6vl1qfkeqigogv/wlw1apqdt0t0syjd8hjadfy+nte/+cwjwglvucf0bbf6bm6qf/rge0qrx/qdbpff4nxcbm44nfknei0me/qpql+/wnugupb</latexit> <latexit sha1_base64="jov2hse3yko07lmwbnupurvduri=">aaaczniczvjba9swffa8w5fd0u1xl2ihkeepdihsl4xsveyljwnlw6gzi8tyiqqlky5bbyp2ur+0n9knvnb/ynlijjq9iphp3m/5lbacwwjd607w6pgtp8+2nndfvhz1+k1v++2j1awhbek10oysjzyjrtgeoah2vhhgzcryaxrxpbgfxjjjuvy/yfgwqsqzxxnocxhv0vtedgnjyj7mntgcs57hu3fldu7glfui93fcgj0lnd+p3m9jxawh4auikuhrrkmvh+6gs8epqdscpmplngx3ajxpwkqmgapi7xkufjctiqfobxpdulssipsczni5h4pizqf1cnqhb16t4vwbfxtgpxy9oibs2ovmvwfto920ncr/tsg6eaomo92od/nnac1vuqjtdfu+lwugjzsf44wbrkespcducd8bpnnicavpw71mdwfzjimfv6mwzfrwltjlhmv+edhtpnwur8xhpmb+lx5bfrcd4zyl5socet5hn7ymqc6vl1qfkeqigogv/wlw1apqdt0t0syjd8hjadfy+nte/+cwjwglvucf0bbf6bm6qf/rge0qrx/qdbpff4nxcbm44nfknei0me/qpql+/wnugupb</latexit> <latexit sha1_base64="jov2hse3yko07lmwbnupurvduri=">aaaczniczvjba9swffa8w5fd0u1xl2ihkeepdihsl4xsveyljwnlw6gzi8tyiqqlky5bbyp2ur+0n9knvnb/ynlijjq9iphp3m/5lbacwwjd607w6pgtp8+2nndfvhz1+k1v++2j1awhbek10oysjzyjrtgeoah2vhhgzcryaxrxpbgfxjjjuvy/yfgwqsqzxxnocxhv0vtedgnjyj7mntgcs57hu3fldu7glfui93fcgj0lnd+p3m9jxawh4auikuhrrkmvh+6gs8epqdscpmplngx3ajxpwkqmgapi7xkufjctiqfobxpdulssipsczni5h4pizqf1cnqhb16t4vwbfxtgpxy9oibs2ovmvwfto920ncr/tsg6eaomo92od/nnac1vuqjtdfu+lwugjzsf44wbrkespcducd8bpnnicavpw71mdwfzjimfv6mwzfrwltjlhmv+edhtpnwur8xhpmb+lx5bfrcd4zyl5socet5hn7ymqc6vl1qfkeqigogv/wlw1apqdt0t0syjd8hjadfy+nte/+cwjwglvucf0bbf6bm6qf/rge0qrx/qdbpff4nxcbm44nfknei0me/qpql+/wnugupb</latexit> <latexit sha1_base64="76zxil2sjvynseuxnwohhromc9s=">aaacuxiczvhbattaef2rt9s9oe1jx5yaqwohycbqqqge9quvgrtqjbazm1qt7g32inzhryzq3/rr+tq+5g8ycpq2cqz2ottnljtz0kkrghf80yvu3x/w8nhw4/6tp8+evxhsvzworvrctoxtzp+mekrwvk5rozanhzdgui1p0vpplx/yq/qgnp2gq0lodcysypuajnd88debv+cjgwpofy7tvp7z8gln+oenksrj1++q2f0f95bpb8n4l14bvwvghriyzo7m2z2rze6urlougki4g8cfzmrwqiswtt8pgyxanmncnhg0ygsy1etbgz4it8zz5+ly5gvvzywatagrk1jk+8mwybxof9zojolvwzfs9mf8/axwtihrwnhvpi81r8fbxfjmeslqrwia8iom4gijhgtsxm9vauxjdn2p6rbotnmhw5puepnr8hrhkh1pjrlhfmrplbsgwlsf864kvzygakrrt4je4upljepdqa4bvapi7dduk7jpkyzjtrhugupj3pjw1/3hwadooc32mr1ho2zm3red9oudsskt7bf7zf6wv9ghckjl9p0qnop1oa/ylyvcjd+w3dk=</latexit> <latexit sha1_base64="76zxil2sjvynseuxnwohhromc9s=">aaacuxiczvhbattaef2rt9s9oe1jx5yaqwohycbqqqge9quvgrtqjbazm1qt7g32inzhryzq3/rr+tq+5g8ycpq2cqz2ottnljtz0kkrghf80yvu3x/w8nhw4/6tp8+evxhsvzworvrctoxtzp+mekrwvk5rozanhzdgui1p0vpplx/yq/qgnp2gq0lodcysypuajnd88debv+cjgwpofy7tvp7z8gln+oenksrj1++q2f0f95bpb8n4l14bvwvghriyzo7m2z2rze6urlougki4g8cfzmrwqiswtt8pgyxanmncnhg0ygsy1etbgz4it8zz5+ly5gvvzywatagrk1jk+8mwybxof9zojolvwzfs9mf8/axwtihrwnhvpi81r8fbxfjmeslqrwia8iom4gijhgtsxm9vauxjdn2p6rbotnmhw5puepnr8hrhkh1pjrlhfmrplbsgwlsf864kvzygakrrt4je4upljepdqa4bvapi7dduk7jpkyzjtrhugupj3pjw1/3hwadooc32mr1ho2zm3red9oudsskt7bf7zf6wv9ghckjl9p0qnop1oa/ylyvcjd+w3dk=</latexit> <latexit sha1_base64="76zxil2sjvynseuxnwohhromc9s=">aaacuxiczvhbattaef2rt9s9oe1jx5yaqwohycbqqqge9quvgrtqjbazm1qt7g32inzhryzq3/rr+tq+5g8ycpq2cqz2ottnljtz0kkrghf80yvu3x/w8nhw4/6tp8+evxhsvzworvrctoxtzp+mekrwvk5rozanhzdgui1p0vpplx/yq/qgnp2gq0lodcysypuajnd88debv+cjgwpofy7tvp7z8gln+oenksrj1++q2f0f95bpb8n4l14bvwvghriyzo7m2z2rze6urlougki4g8cfzmrwqiswtt8pgyxanmncnhg0ygsy1etbgz4it8zz5+ly5gvvzywatagrk1jk+8mwybxof9zojolvwzfs9mf8/axwtihrwnhvpi81r8fbxfjmeslqrwia8iom4gijhgtsxm9vauxjdn2p6rbotnmhw5puepnr8hrhkh1pjrlhfmrplbsgwlsf864kvzygakrrt4je4upljepdqa4bvapi7dduk7jpkyzjtrhugupj3pjw1/3hwadooc32mr1ho2zm3red9oudsskt7bf7zf6wv9ghckjl9p0qnop1oa/ylyvcjd+w3dk=</latexit> <latexit sha1_base64="76zxil2sjvynseuxnwohhromc9s=">aaacuxiczvhbattaef2rt9s9oe1jx5yaqwohycbqqqge9quvgrtqjbazm1qt7g32inzhryzq3/rr+tq+5g8ycpq2cqz2ottnljtz0kkrghf80yvu3x/w8nhw4/6tp8+evxhsvzworvrctoxtzp+mekrwvk5rozanhzdgui1p0vpplx/yq/qgnp2gq0lodcysypuajnd88debv+cjgwpofy7tvp7z8gln+oenksrj1++q2f0f95bpb8n4l14bvwvghriyzo7m2z2rze6urlougki4g8cfzmrwqiswtt8pgyxanmncnhg0ygsy1etbgz4it8zz5+ly5gvvzywatagrk1jk+8mwybxof9zojolvwzfs9mf8/axwtihrwnhvpi81r8fbxfjmeslqrwia8iom4gijhgtsxm9vauxjdn2p6rbotnmhw5puepnr8hrhkh1pjrlhfmrplbsgwlsf864kvzygakrrt4je4upljepdqa4bvapi7dduk7jpkyzjtrhugupj3pjw1/3hwadooc32mr1ho2zm3red9oudsskt7bf7zf6wv9ghckjl9p0qnop1oa/ylyvcjd+w3dk=</latexit> <latexit sha1_base64="plawgixtbafu5ove+cmu9iwgici=">aaaciniczvfla9taef4rfaru2jjtszelxtbdcjiptkwx0obqsycfoglexqxwy3vjpstubler+iw9nj8q/6yjr5tegdjlyx7fzhxtvfoftnpbxrlz5omz57sv+i/3xr3ehxy8oq8uegkt6btzl4uiojwfcsrucfl5ekbqcffcf2/jf7/bb+xsl1xxmdviydvcsyhkmg32caz4rizp6/qwy5vzyjgeprvjj0hwgshr7gx20jn56wq0yffqecjvlly4ryvhjtu0/twgqis8fgu4imifgtctn5m3feseks+dp2erb7z3k2phqlibgjknwgxyjrxo/7hr/scuwsaw1r/nn6e1slvespku/txqjo634vbsezco1wse9io24hipvjbiej5gavuud33u9etn2u2djayadyutrxeoypdmda3ni06ykecbdxpzjourg1bo4ujnavc6aklrfspwpwk9wth5qlop06zpz8m2j/ayni+pmsi/pw6pv3uh2mxv2hv2gwxseztmp9gzmzdjivvd/rkbzc8zj1+sr3epsa+recsewhlydxvvx6m=</latexit> <latexit sha1_base64="plawgixtbafu5ove+cmu9iwgici=">aaaciniczvfla9taef4rfaru2jjtszelxtbdcjiptkwx0obqsycfoglexqxwy3vjpstubler+iw9nj8q/6yjr5tegdjlyx7fzhxtvfoftnpbxrlz5omz57sv+i/3xr3ehxy8oq8uegkt6btzl4uiojwfcsrucfl5ekbqcffcf2/jf7/bb+xsl1xxmdviydvcsyhkmg32caz4rizp6/qwy5vzyjgeprvjj0hwgshr7gx20jn56wq0yffqecjvlly4ryvhjtu0/twgqis8fgu4imifgtctn5m3feseks+dp2erb7z3k2phqlibgjknwgxyjrxo/7hr/scuwsaw1r/nn6e1slvespku/txqjo634vbsezco1wse9io24hipvjbiej5gavuud33u9etn2u2djayadyutrxeoypdmda3ni06ykecbdxpzjourg1bo4ujnavc6aklrfspwpwk9wth5qlop06zpz8m2j/ayni+pmsi/pw6pv3uh2mxv2hv2gwxseztmp9gzmzdjivvd/rkbzc8zj1+sr3epsa+recsewhlydxvvx6m=</latexit> <latexit sha1_base64="plawgixtbafu5ove+cmu9iwgici=">aaaciniczvfla9taef4rfaru2jjtszelxtbdcjiptkwx0obqsycfoglexqxwy3vjpstubler+iw9nj8q/6yjr5tegdjlyx7fzhxtvfoftnpbxrlz5omz57sv+i/3xr3ehxy8oq8uegkt6btzl4uiojwfcsrucfl5ekbqcffcf2/jf7/bb+xsl1xxmdviydvcsyhkmg32caz4rizp6/qwy5vzyjgeprvjj0hwgshr7gx20jn56wq0yffqecjvlly4ryvhjtu0/twgqis8fgu4imifgtctn5m3feseks+dp2erb7z3k2phqlibgjknwgxyjrxo/7hr/scuwsaw1r/nn6e1slvespku/txqjo634vbsezco1wse9io24hipvjbiej5gavuud33u9etn2u2djayadyutrxeoypdmda3ni06ykecbdxpzjourg1bo4ujnavc6aklrfspwpwk9wth5qlop06zpz8m2j/ayni+pmsi/pw6pv3uh2mxv2hv2gwxseztmp9gzmzdjivvd/rkbzc8zj1+sr3epsa+recsewhlydxvvx6m=</latexit> <latexit sha1_base64="plawgixtbafu5ove+cmu9iwgici=">aaaciniczvfla9taef4rfaru2jjtszelxtbdcjiptkwx0obqsycfoglexqxwy3vjpstubler+iw9nj8q/6yjr5tegdjlyx7fzhxtvfoftnpbxrlz5omz57sv+i/3xr3ehxy8oq8uegkt6btzl4uiojwfcsrucfl5ekbqcffcf2/jf7/bb+xsl1xxmdviydvcsyhkmg32caz4rizp6/qwy5vzyjgeprvjj0hwgshr7gx20jn56wq0yffqecjvlly4ryvhjtu0/twgqis8fgu4imifgtctn5m3feseks+dp2erb7z3k2phqlibgjknwgxyjrxo/7hr/scuwsaw1r/nn6e1slvespku/txqjo634vbsezco1wse9io24hipvjbiej5gavuud33u9etn2u2djayadyutrxeoypdmda3ni06ykecbdxpzjourg1bo4ujnavc6aklrfspwpwk9wth5qlop06zpz8m2j/ayni+pmsi/pw6pv3uh2mxv2hv2gwxseztmp9gzmzdjivvd/rkbzc8zj1+sr3epsa+recsewhlydxvvx6m=</latexit> Logistic Again, we formulate a model of the likelihood of the training data: p(t x, w) = NY i=1 p(t i x i, w) t i 2 {0, 1} But now, we use the Bernoulli distribution: p(t i x i, w) =y t i i (1 y i) (1 t i) And again, we aim to maximise the (log)-likelihood arg max w p(t x, w)!9

10 Logistic We minimise the negative log-likelihood: E(w) = log p(t 1,...,t N x, w)!10

11 <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> Logistic We minimise the negative log-likelihood: E(w) = log p(t 1,...,t N x, w) NX = i=1 (t i log y i +(1 t i ) log(1 y i )) Cross entropy!11

12 <latexit sha1_base64="+b9lcm3futa7enkmabxgszwx9ty=">aaacyniczvfbaxnbfj6stxovtfxrl4mhkikw3sdos6eogg9wk5i20i3l7oxsmnquy8ysjgz75l/yx4iv+j88my6ltq/mzmf55ly/vjlc+tj+3ytu3b5z997w/f6dh48ebw92nhw7u1vgp8xiy09z6rgumk+98jkfvpztlut+kp+/a/mt79w6yfrxv6r4tng5fqvg1kmrg3xonc0lhffjvfg/ymvwo9mffuhdrbig9ppm2ycyrzibl8fnyhfs3mjcrrq+ia0workmxdbiz4nhvbevdw6cpand0tlrttnjawfyrbj2tflnzpk48rnarrdm8qaf1o5xlj3tot9dqknibhbwkzcwqk8bpbf4tie192peomq1zelptku3ybxos250lftlnqpbqo/ln7mgdfv7rtlf+bkw4a20y4vcwm68xcggzaqcanicwso8snatu6tx8clwem9mvdu907xkueufdi/nbsmxasibgbhgwnbbdrqoocscqjtpjebop457zmqnhcihxr5sb8us5xdnmmrnh2vjnkw4cy4newnil6+gb287gbbim/kcjelcxpmd8oeckslh5bf5q/6sf9hhyearkfx8jxpdzfnyzakf/wfwaegg</latexit> <latexit sha1_base64="+b9lcm3futa7enkmabxgszwx9ty=">aaacyniczvfbaxnbfj6stxovtfxrl4mhkikw3sdos6eogg9wk5i20i3l7oxsmnquy8ysjgz75l/yx4iv+j88my6ltq/mzmf55ly/vjlc+tj+3ytu3b5z997w/f6dh48ebw92nhw7u1vgp8xiy09z6rgumk+98jkfvpztlut+kp+/a/mt79w6yfrxv6r4tng5fqvg1kmrg3xonc0lhffjvfg/ymvwo9mffuhdrbig9ppm2ycyrzibl8fnyhfs3mjcrrq+ia0workmxdbiz4nhvbevdw6cpand0tlrttnjawfyrbj2tflnzpk48rnarrdm8qaf1o5xlj3tot9dqknibhbwkzcwqk8bpbf4tie192peomq1zelptku3ybxos250lftlnqpbqo/ln7mgdfv7rtlf+bkw4a20y4vcwm68xcggzaqcanicwso8snatu6tx8clwem9mvdu907xkueufdi/nbsmxasibgbhgwnbbdrqoocscqjtpjebop457zmqnhcihxr5sb8us5xdnmmrnh2vjnkw4cy4newnil6+gb287gbbim/kcjelcxpmd8oeckslh5bf5q/6sf9hhyearkfx8jxpdzfnyzakf/wfwaegg</latexit> <latexit sha1_base64="+b9lcm3futa7enkmabxgszwx9ty=">aaacyniczvfbaxnbfj6stxovtfxrl4mhkikw3sdos6eogg9wk5i20i3l7oxsmnquy8ysjgz75l/yx4iv+j88my6ltq/mzmf55ly/vjlc+tj+3ytu3b5z997w/f6dh48ebw92nhw7u1vgp8xiy09z6rgumk+98jkfvpztlut+kp+/a/mt79w6yfrxv6r4tng5fqvg1kmrg3xonc0lhffjvfg/ymvwo9mffuhdrbig9ppm2ycyrzibl8fnyhfs3mjcrrq+ia0workmxdbiz4nhvbevdw6cpand0tlrttnjawfyrbj2tflnzpk48rnarrdm8qaf1o5xlj3tot9dqknibhbwkzcwqk8bpbf4tie192peomq1zelptku3ybxos250lftlnqpbqo/ln7mgdfv7rtlf+bkw4a20y4vcwm68xcggzaqcanicwso8snatu6tx8clwem9mvdu907xkueufdi/nbsmxasibgbhgwnbbdrqoocscqjtpjebop457zmqnhcihxr5sb8us5xdnmmrnh2vjnkw4cy4newnil6+gb287gbbim/kcjelcxpmd8oeckslh5bf5q/6sf9hhyearkfx8jxpdzfnyzakf/wfwaegg</latexit> <latexit sha1_base64="+b9lcm3futa7enkmabxgszwx9ty=">aaacyniczvfbaxnbfj6stxovtfxrl4mhkikw3sdos6eogg9wk5i20i3l7oxsmnquy8ysjgz75l/yx4iv+j88my6ltq/mzmf55ly/vjlc+tj+3ytu3b5z997w/f6dh48ebw92nhw7u1vgp8xiy09z6rgumk+98jkfvpztlut+kp+/a/mt79w6yfrxv6r4tng5fqvg1kmrg3xonc0lhffjvfg/ymvwo9mffuhdrbig9ppm2ycyrzibl8fnyhfs3mjcrrq+ia0workmxdbiz4nhvbevdw6cpand0tlrttnjawfyrbj2tflnzpk48rnarrdm8qaf1o5xlj3tot9dqknibhbwkzcwqk8bpbf4tie192peomq1zelptku3ybxos250lftlnqpbqo/ln7mgdfv7rtlf+bkw4a20y4vcwm68xcggzaqcanicwso8snatu6tx8clwem9mvdu907xkueufdi/nbsmxasibgbhgwnbbdrqoocscqjtpjebop457zmqnhcihxr5sb8us5xdnmmrnh2vjnkw4cy4newnil6+gb287gbbim/kcjelcxpmd8oeckslh5bf5q/6sf9hhyearkfx8jxpdzfnyzakf/wfwaegg</latexit> <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> <latexit sha1_base64="1kp1wnnwb0qgtjlaidnkwutcdrq=">aaacr3iczvhbahsxejw3t9s9oeljx0snwazn2dwb9iuq2pe+pkrqx4gss9vqzvtel0uabztlf6rf09f2d/o3nxwwkjgdeoczmjoaoxmppic4/tujhjx89pjjztpus+cvxr7q7e6derscfxnulxxnofncssmmiegj89ijpnmlpvnv5yy/vrbos2u+w7oum80wrs4lz4bu1js8ovupdzqr5ffsx36lq8gktzvd0dwcd3sy7cmz2lcikrynsl4/pog3qe+dpav90szpttvhawf50miav8z7iyquyvyxb5iruxft4exj+bvbiauehmnhz9vmvjookcno3do8buigvv1rme39wuf4ujny+u1cq/7pdw4nyduo+q3+mp84q6qpawjdb9rpg6jgabnbwkgnokg1asadxakoxzlhooce7yg1phtvxvb4c6ub6b0johdofdi8wlgsx+qxqckdufwllsjt9se0vahsegaknbqpf8btmnioomgrewzortbjx1fjuo6ilcm2cffb2fggqfztsh/8qtvoh7whb8mqjoqdoszfycmzee5+kl/kn/ktjde0uox+3dynom3na3inivkp91pudg==</latexit> Logistic We minimise the negative log-likelihood: E(w) = log p(t 1,...,t N x, w) NX = i=1 NX (t i log y i +(1 t i ) log(1 y i )) Cross entropy re(w) = (y i t i ) (x i ) i=1!12

13 <latexit sha1_base64="qrhjo1lbk3bahxtzpnw9a2wzh8a=">aaacj3iczvfbaxnbfj6stxovtdq3xwzdoiku3sdujwmkoa+fcqytdem4o3s2gtqxzeasji77x3zvf+s/ctzdpe0pzpbxlt855ztzqasnop7bi+7cvxf/wd7d/qpht57ud4bptr2tnmczsmq68ww8kmlwrpiunpcoqwckz7llj2387ds6l635rpss5xqwrhzsaaxxyvainzap4j8oug20yor6r/n6mrjfh/hw+g2qdgdeojtzdhsiza2onboscry/soks5ju4kkjh008rjywis1jiryagnpp5vr2/4epgyxlhxxig+nz7vaig7f1gzygzndhvxlrn/9j4epdwlapf6u/fu3kttvkrgnhvvqguj8tbhxguhqpsmwbaobk24gifdgqfhw8wtalnb1ylwi+sbrf3ptizoszd8mppq/lkt7dhfmydleegz7ujecfcpfeeknd0u48kbgvco/oy1sdatq7ddx1tt+kmh86s7b7hnjidhcybf307mn7odrthxrjx7ial7ihn2wd2wmzmsj/sf/vn/ktd6ch6h02vuqnev/oc3bdoyz/vjmo2</latexit> <latexit sha1_base64="qrhjo1lbk3bahxtzpnw9a2wzh8a=">aaacj3iczvfbaxnbfj6stxovtdq3xwzdoiku3sdujwmkoa+fcqytdem4o3s2gtqxzeasji77x3zvf+s/ctzdpe0pzpbxlt855ztzqasnop7bi+7cvxf/wd7d/qpht57ud4bptr2tnmczsmq68ww8kmlwrpiunpcoqwckz7llj2387ds6l635rpss5xqwrhzsaaxxyvainzap4j8oug20yor6r/n6mrjfh/hw+g2qdgdeojtzdhsiza2onboscry/soks5ju4kkjh008rjywis1jiryagnpp5vr2/4epgyxlhxxig+nz7vaig7f1gzygzndhvxlrn/9j4epdwlapf6u/fu3kttvkrgnhvvqguj8tbhxguhqpsmwbaobk24gifdgqfhw8wtalnb1ylwi+sbrf3ptizoszd8mppq/lkt7dhfmydleegz7ujecfcpfeeknd0u48kbgvco/oy1sdatq7ddx1tt+kmh86s7b7hnjidhcybf307mn7odrthxrjx7ial7ihn2wd2wmzmsj/sf/vn/ktd6ch6h02vuqnev/oc3bdoyz/vjmo2</latexit> <latexit sha1_base64="qrhjo1lbk3bahxtzpnw9a2wzh8a=">aaacj3iczvfbaxnbfj6stxovtdq3xwzdoiku3sdujwmkoa+fcqytdem4o3s2gtqxzeasji77x3zvf+s/ctzdpe0pzpbxlt855ztzqasnop7bi+7cvxf/wd7d/qpht57ud4bptr2tnmczsmq68ww8kmlwrpiunpcoqwckz7llj2387ds6l635rpss5xqwrhzsaaxxyvainzap4j8oug20yor6r/n6mrjfh/hw+g2qdgdeojtzdhsiza2onboscry/soks5ju4kkjh008rjywis1jiryagnpp5vr2/4epgyxlhxxig+nz7vaig7f1gzygzndhvxlrn/9j4epdwlapf6u/fu3kttvkrgnhvvqguj8tbhxguhqpsmwbaobk24gifdgqfhw8wtalnb1ylwi+sbrf3ptizoszd8mppq/lkt7dhfmydleegz7ujecfcpfeeknd0u48kbgvco/oy1sdatq7ddx1tt+kmh86s7b7hnjidhcybf307mn7odrthxrjx7ial7ihn2wd2wmzmsj/sf/vn/ktd6ch6h02vuqnev/oc3bdoyz/vjmo2</latexit> <latexit sha1_base64="qrhjo1lbk3bahxtzpnw9a2wzh8a=">aaacj3iczvfbaxnbfj6stxovtdq3xwzdoiku3sdujwmkoa+fcqytdem4o3s2gtqxzeasji77x3zvf+s/ctzdpe0pzpbxlt855ztzqasnop7bi+7cvxf/wd7d/qpht57ud4bptr2tnmczsmq68ww8kmlwrpiunpcoqwckz7llj2387ds6l635rpss5xqwrhzsaaxxyvainzap4j8oug20yor6r/n6mrjfh/hw+g2qdgdeojtzdhsiza2onboscry/soks5ju4kkjh008rjywis1jiryagnpp5vr2/4epgyxlhxxig+nz7vaig7f1gzygzndhvxlrn/9j4epdwlapf6u/fu3kttvkrgnhvvqguj8tbhxguhqpsmwbaobk24gifdgqfhw8wtalnb1ylwi+sbrf3ptizoszd8mppq/lkt7dhfmydleegz7ujecfcpfeeknd0u48kbgvco/oy1sdatq7ddx1tt+kmh86s7b7hnjidhcybf307mn7odrthxrjx7ial7ihn2wd2wmzmsj/sf/vn/ktd6ch6h02vuqnev/oc3bdoyz/vjmo2</latexit> <latexit sha1_base64="av05c4tnhwfjdz+p+pg7nobgagy=">aaac+nichvjbaxnbfj5dbzvvm3p58uvgccsgztci7uuhkiivlqpnw+imyxz2kgydyzjzvhpwxf/im/jqn/eh+d+ctzespg8emjmpcz/nmzsxwmeu/qnco3fv3x+w8bc1+ejxk6329tmtzwrl+jazaexzsh2xqvmhcpt8llecqlty0/tyfw0//ckte0yf4ylni0wnwkweo+hv4/b3rnnuuvjqsxtfwtopv1z92ifefwpciv24uvgevcsjqairlhfhswpk5hbkp2wsz0r1bz1xy9hvwxta/8j//mbttrqtlqvug7gbhdli0xg7yelmwkg4riapc+dxlooopbyfk7xqjyxjowwxdmrppdructcql5uqoos1guym9ucjllwresvvrm7we9zdunvbrby2dvenok8zurx6onkblulnbxlnrsppcgloocydmme5q7nwgdir/ataztrshp6yg5lqfrpxtpd+zkbv0ztdqjrbnvnh5dt48jka8aqgc34tfkeomo6hyqjco6ts52gljimzhfafykm6p6roxdx/f1evg6hqevridrjug5pbtuzx57edg3cnqrvkjxlfeiqmu+safcrhzegy+rtsbs+df+g38ef4m/x15rogtcwzckpc3/8a1y/zva==</latexit> <latexit sha1_base64="av05c4tnhwfjdz+p+pg7nobgagy=">aaac+nichvjbaxnbfj5dbzvvm3p58uvgccsgztci7uuhkiivlqpnw+imyxz2kgydyzjzvhpwxf/im/jqn/eh+d+ctzespg8emjmpcz/nmzsxwmeu/qnco3fv3x+w8bc1+ejxk6329tmtzwrl+jazaexzsh2xqvmhcpt8llecqlty0/tyfw0//ckte0yf4ylni0wnwkweo+hv4/b3rnnuuvjqsxtfwtopv1z92ifefwpciv24uvgevcsjqairlhfhswpk5hbkp2wsz0r1bz1xy9hvwxta/8j//mbttrqtlqvug7gbhdli0xg7yelmwkg4riapc+dxlooopbyfk7xqjyxjowwxdmrppdructcql5uqoos1guym9ucjllwresvvrm7we9zdunvbrby2dvenok8zurx6onkblulnbxlnrsppcgloocydmme5q7nwgdir/ataztrshp6yg5lqfrpxtpd+zkbv0ztdqjrbnvnh5dt48jka8aqgc34tfkeomo6hyqjco6ts52gljimzhfafykm6p6roxdx/f1evg6hqevridrjug5pbtuzx57edg3cnqrvkjxlfeiqmu+safcrhzegy+rtsbs+df+g38ef4m/x15rogtcwzckpc3/8a1y/zva==</latexit> <latexit sha1_base64="av05c4tnhwfjdz+p+pg7nobgagy=">aaac+nichvjbaxnbfj5dbzvvm3p58uvgccsgztci7uuhkiivlqpnw+imyxz2kgydyzjzvhpwxf/im/jqn/eh+d+ctzespg8emjmpcz/nmzsxwmeu/qnco3fv3x+w8bc1+ejxk6329tmtzwrl+jazaexzsh2xqvmhcpt8llecqlty0/tyfw0//ckte0yf4ylni0wnwkweo+hv4/b3rnnuuvjqsxtfwtopv1z92ifefwpciv24uvgevcsjqairlhfhswpk5hbkp2wsz0r1bz1xy9hvwxta/8j//mbttrqtlqvug7gbhdli0xg7yelmwkg4riapc+dxlooopbyfk7xqjyxjowwxdmrppdructcql5uqoos1guym9ucjllwresvvrm7we9zdunvbrby2dvenok8zurx6onkblulnbxlnrsppcgloocydmme5q7nwgdir/ataztrshp6yg5lqfrpxtpd+zkbv0ztdqjrbnvnh5dt48jka8aqgc34tfkeomo6hyqjco6ts52gljimzhfafykm6p6roxdx/f1evg6hqevridrjug5pbtuzx57edg3cnqrvkjxlfeiqmu+safcrhzegy+rtsbs+df+g38ef4m/x15rogtcwzckpc3/8a1y/zva==</latexit> <latexit sha1_base64="av05c4tnhwfjdz+p+pg7nobgagy=">aaac+nichvjbaxnbfj5dbzvvm3p58uvgccsgztci7uuhkiivlqpnw+imyxz2kgydyzjzvhpwxf/im/jqn/eh+d+ctzespg8emjmpcz/nmzsxwmeu/qnco3fv3x+w8bc1+ejxk6329tmtzwrl+jazaexzsh2xqvmhcpt8llecqlty0/tyfw0//ckte0yf4ylni0wnwkweo+hv4/b3rnnuuvjqsxtfwtopv1z92ifefwpciv24uvgevcsjqairlhfhswpk5hbkp2wsz0r1bz1xy9hvwxta/8j//mbttrqtlqvug7gbhdli0xg7yelmwkg4riapc+dxlooopbyfk7xqjyxjowwxdmrppdructcql5uqoos1guym9ucjllwresvvrm7we9zdunvbrby2dvenok8zurx6onkblulnbxlnrsppcgloocydmme5q7nwgdir/ataztrshp6yg5lqfrpxtpd+zkbv0ztdqjrbnvnh5dt48jka8aqgc34tfkeomo6hyqjco6ts52gljimzhfafykm6p6roxdx/f1evg6hqevridrjug5pbtuzx57edg3cnqrvkjxlfeiqmu+safcrhzegy+rtsbs+df+g38ef4m/x15rogtcwzckpc3/8a1y/zva==</latexit> <latexit sha1_base64="vlpk1jvyaj1p3m3gydp3xbfodk4=">aaacjhiczvhbattaef0rvsrum9rty16wgkmfspbmiivscc2evgrsqjnabmxqnbkx7exsjmobou/pa/jn/zuohfesz2cxw1zozjxjc60cxvhftrtz7pmll7t73vev3+y/7fxfxqrxeglj6btzv6kiojwfmsrucfv4ecbvcjnefg/il7/bb+xsl1wxmdviblwupebyzxr9irg4spnqwc8qc8uaz3qd+ddegh8kkhymwgvns35htjinswmwpryhxcdxgdnkefrsq92dlaekiw/ehk4jwmegtkvn7dufkifjufp0lpkn92ffjuwia5nszjnp2i41zv+x4cmgrhrgsnuf88/tstmirldyvn1eao6on/lwthmqqncehpsknubyibyqsci+ymouzz75utmvnwm2d7y0kxjiahk9d1s+mcooor9ykouecrydmlcsxnmaqhnhdxiapsstnaroxopmofcromcoq1fcd+ksyfyrnokl0wfc+ofr4orbe6bddsa+si8sycfshp1g52zmjfuyp+yw3ux70vh0jfp6nxp12pr37jffp/8azjdjyq==</latexit> <latexit sha1_base64="vlpk1jvyaj1p3m3gydp3xbfodk4=">aaacjhiczvhbattaef0rvsrum9rty16wgkmfspbmiivscc2evgrsqjnabmxqnbkx7exsjmobou/pa/jn/zuohfesz2cxw1zozjxjc60cxvhftrtz7pmll7t73vev3+y/7fxfxqrxeglj6btzv6kiojwfmsrucfv4ecbvcjnefg/il7/bb+xsl1wxmdviblwupebyzxr9irg4spnqwc8qc8uaz3qd+ddegh8kkhymwgvns35htjinswmwpryhxcdxgdnkefrsq92dlaekiw/ehk4jwmegtkvn7dufkifjufp0lpkn92ffjuwia5nszjnp2i41zv+x4cmgrhrgsnuf88/tstmirldyvn1eao6on/lwthmqqncehpsknubyibyqsci+ymouzz75utmvnwm2d7y0kxjiahk9d1s+mcooor9ykouecrydmlcsxnmaqhnhdxiapsstnaroxopmofcromcoq1fcd+ksyfyrnokl0wfc+ofr4orbe6bddsa+si8sycfshp1g52zmjfuyp+yw3ux70vh0jfp6nxp12pr37jffp/8azjdjyq==</latexit> <latexit sha1_base64="vlpk1jvyaj1p3m3gydp3xbfodk4=">aaacjhiczvhbattaef0rvsrum9rty16wgkmfspbmiivscc2evgrsqjnabmxqnbkx7exsjmobou/pa/jn/zuohfesz2cxw1zozjxjc60cxvhftrtz7pmll7t73vev3+y/7fxfxqrxeglj6btzv6kiojwfmsrucfv4ecbvcjnefg/il7/bb+xsl1wxmdviblwupebyzxr9irg4spnqwc8qc8uaz3qd+ddegh8kkhymwgvns35htjinswmwpryhxcdxgdnkefrsq92dlaekiw/ehk4jwmegtkvn7dufkifjufp0lpkn92ffjuwia5nszjnp2i41zv+x4cmgrhrgsnuf88/tstmirldyvn1eao6on/lwthmqqncehpsknubyibyqsci+ymouzz75utmvnwm2d7y0kxjiahk9d1s+mcooor9ykouecrydmlcsxnmaqhnhdxiapsstnaroxopmofcromcoq1fcd+ksyfyrnokl0wfc+ofr4orbe6bddsa+si8sycfshp1g52zmjfuyp+yw3ux70vh0jfp6nxp12pr37jffp/8azjdjyq==</latexit> <latexit sha1_base64="vlpk1jvyaj1p3m3gydp3xbfodk4=">aaacjhiczvhbattaef0rvsrum9rty16wgkmfspbmiivscc2evgrsqjnabmxqnbkx7exsjmobou/pa/jn/zuohfesz2cxw1zozjxjc60cxvhftrtz7pmll7t73vev3+y/7fxfxqrxeglj6btzv6kiojwfmsrucfv4ecbvcjnefg/il7/bb+xsl1wxmdviblwupebyzxr9irg4spnqwc8qc8uaz3qd+ddegh8kkhymwgvns35htjinswmwpryhxcdxgdnkefrsq92dlaekiw/ehk4jwmegtkvn7dufkifjufp0lpkn92ffjuwia5nszjnp2i41zv+x4cmgrhrgsnuf88/tstmirldyvn1eao6on/lwthmqqncehpsknubyibyqsci+ymouzz75utmvnwm2d7y0kxjiahk9d1s+mcooor9ykouecrydmlcsxnmaqhnhdxiapsstnaroxopmofcromcoq1fcd+ksyfyrnokl0wfc+ofr4orbe6bddsa+si8sycfshp1g52zmjfuyp+yw3ux70vh0jfp6nxp12pr37jffp/8azjdjyq==</latexit> <latexit sha1_base64="tx2xng/oixf3mkx4ac5stw97xx8=">aaacjhiczvftsxtben5ctbxratj+7jelidapre6cofak0klpf8fco4ijyw9vllncl2n3riyc91p6tf1n/hvn4le0duzymc/pzdytflofjoo7tvria/vlq53x3d29n/shvf7bi+bkl2esnxb+khubtliwrouargopwqqaltobb0388jf4ojz9hascpkbmrcqvfeiuwa8/mqixav7d1rpk6azms94gpozxxp+dpaud1tr5rn+rk8zj0obfquui10lc4lqshpxuuhcnzybcybsxh2ucvhgi02o9e82h5ml47jw9i3ztfvxrcrpcyqsu2uwanmon839s+diiy4yxbpth/grakvuucfy+tm9lzdhxrh6ekq8s9yqakf7rblwuhbcsscqnti3i2sdfavqlm832wzymbq8zla/njsoxzgq150nospbagbct85afkxtqaolotgkgdkwlrtwzwj4j9gpjbwx1nyrrlp0l2tzcc3axokwi/zwanh5td7td3rmp7cnl2de7zt/yorszyw7zh/ax/yv2o6poc/tlitxqtdxv2bolvt8dtzhjvg==</latexit> <latexit sha1_base64="tx2xng/oixf3mkx4ac5stw97xx8=">aaacjhiczvftsxtben5ctbxratj+7jelidapre6cofak0klpf8fco4ijyw9vllncl2n3riyc91p6tf1n/hvn4le0duzymc/pzdytflofjoo7tvria/vlq53x3d29n/shvf7bi+bkl2esnxb+khubtliwrouargopwqqaltobb0388jf4ojz9hascpkbmrcqvfeiuwa8/mqixav7d1rpk6azms94gpozxxp+dpaud1tr5rn+rk8zj0obfquui10lc4lqshpxuuhcnzybcybsxh2ucvhgi02o9e82h5ml47jw9i3ztfvxrcrpcyqsu2uwanmon839s+diiy4yxbpth/grakvuucfy+tm9lzdhxrh6ekq8s9yqakf7rblwuhbcsscqnti3i2sdfavqlm832wzymbq8zla/njsoxzgq150nospbagbct85afkxtqaolotgkgdkwlrtwzwj4j9gpjbwx1nyrrlp0l2tzcc3axokwi/zwanh5td7td3rmp7cnl2de7zt/yorszyw7zh/ax/yv2o6poc/tlitxqtdxv2bolvt8dtzhjvg==</latexit> <latexit sha1_base64="tx2xng/oixf3mkx4ac5stw97xx8=">aaacjhiczvftsxtben5ctbxratj+7jelidapre6cofak0klpf8fco4ijyw9vllncl2n3riyc91p6tf1n/hvn4le0duzymc/pzdytflofjoo7tvria/vlq53x3d29n/shvf7bi+bkl2esnxb+khubtliwrouargopwqqaltobb0388jf4ojz9hascpkbmrcqvfeiuwa8/mqixav7d1rpk6azms94gpozxxp+dpaud1tr5rn+rk8zj0obfquui10lc4lqshpxuuhcnzybcybsxh2ucvhgi02o9e82h5ml47jw9i3ztfvxrcrpcyqsu2uwanmon839s+diiy4yxbpth/grakvuucfy+tm9lzdhxrh6ekq8s9yqakf7rblwuhbcsscqnti3i2sdfavqlm832wzymbq8zla/njsoxzgq150nospbagbct85afkxtqaolotgkgdkwlrtwzwj4j9gpjbwx1nyrrlp0l2tzcc3axokwi/zwanh5td7td3rmp7cnl2de7zt/yorszyw7zh/ax/yv2o6poc/tlitxqtdxv2bolvt8dtzhjvg==</latexit> <latexit sha1_base64="tx2xng/oixf3mkx4ac5stw97xx8=">aaacjhiczvftsxtben5ctbxratj+7jelidapre6cofak0klpf8fco4ijyw9vllncl2n3riyc91p6tf1n/hvn4le0duzymc/pzdytflofjoo7tvria/vlq53x3d29n/shvf7bi+bkl2esnxb+khubtliwrouargopwqqaltobb0388jf4ojz9hascpkbmrcqvfeiuwa8/mqixav7d1rpk6azms94gpozxxp+dpaud1tr5rn+rk8zj0obfquui10lc4lqshpxuuhcnzybcybsxh2ucvhgi02o9e82h5ml47jw9i3ztfvxrcrpcyqsu2uwanmon839s+diiy4yxbpth/grakvuucfy+tm9lzdhxrh6ekq8s9yqakf7rblwuhbcsscqnti3i2sdfavqlm832wzymbq8zla/njsoxzgq150nospbagbct85afkxtqaolotgkgdkwlrtwzwj4j9gpjbwx1nyrrlp0l2tzcc3axokwi/zwanh5td7td3rmp7cnl2de7zt/yorszyw7zh/ax/yv2o6poc/tlitxqtdxv2bolvt8dtzhjvg==</latexit> <latexit sha1_base64="t99u/9q28x6pdjefcaeowqdsga8=">aaacvhiczvfbaxnbfj6stxovtfxrl4mhumgw3sdos0tvhl4ukpi20i1hdvzsmmquy8xsm7dm7/hx+kr4b5xnf03tazn8fod+vqwu3lo4/toj7t1/8pdr1upuk6fpnm/3dl6cwv0zhiomhtyxgbuoumkr407grwmqykzgetb/3pjpr9byrtu3tyxxlolu8yiz6gi16x1mjxwzrkiv/arweo3hanyplxipe3d8vd5lpkskzolcl93/iw8mvx68h68m7okkbx3s2ulkp8psxlnkonjmugsvk7h045oax5la300riyvlczrfywavlwjh9wpxd4pa5fboe55ysglxm2oqrv3kleq2m9pnx0p+8w3wnw7rvlqb/v3xyvxzvvyofbtpx1qcnibmnjbzg8yjzqcugr42adajhjixjn6ruqnq/tzuivxmy2z7qyqzoce8lc+moqtp5ba9wadcwckbllqtq1sfulkoilcjm1p0tfcqnkpp6okeosmxqxdr62hsu0gwzfoeu+bsuj8e/pvd/+htk9aweuvek12skpfkibytuziijpwgp8kv8js6jpjohsmb0kjt5rwktyy6+gtohdyv</latexit> <latexit sha1_base64="t99u/9q28x6pdjefcaeowqdsga8=">aaacvhiczvfbaxnbfj6stxovtfxrl4mhumgw3sdos0tvhl4ukpi20i1hdvzsmmquy8xsm7dm7/hx+kr4b5xnf03tazn8fod+vqwu3lo4/toj7t1/8pdr1upuk6fpnm/3dl6cwv0zhiomhtyxgbuoumkr407grwmqykzgetb/3pjpr9byrtu3tyxxlolu8yiz6gi16x1mjxwzrkiv/arweo3hanyplxipe3d8vd5lpkskzolcl93/iw8mvx68h68m7okkbx3s2ulkp8psxlnkonjmugsvk7h045oax5la300riyvlczrfywavlwjh9wpxd4pa5fboe55ysglxm2oqrv3kleq2m9pnx0p+8w3wnw7rvlqb/v3xyvxzvvyofbtpx1qcnibmnjbzg8yjzqcugr42adajhjixjn6ruqnq/tzuivxmy2z7qyqzoce8lc+moqtp5ba9wadcwckbllqtq1sfulkoilcjm1p0tfcqnkpp6okeosmxqxdr62hsu0gwzfoeu+bsuj8e/pvd/+htk9aweuvek12skpfkibytuziijpwgp8kv8js6jpjohsmb0kjt5rwktyy6+gtohdyv</latexit> <latexit sha1_base64="t99u/9q28x6pdjefcaeowqdsga8=">aaacvhiczvfbaxnbfj6stxovtfxrl4mhumgw3sdos0tvhl4ukpi20i1hdvzsmmquy8xsm7dm7/hx+kr4b5xnf03tazn8fod+vqwu3lo4/toj7t1/8pdr1upuk6fpnm/3dl6cwv0zhiomhtyxgbuoumkr407grwmqykzgetb/3pjpr9byrtu3tyxxlolu8yiz6gi16x1mjxwzrkiv/arweo3hanyplxipe3d8vd5lpkskzolcl93/iw8mvx68h68m7okkbx3s2ulkp8psxlnkonjmugsvk7h045oax5la300riyvlczrfywavlwjh9wpxd4pa5fboe55ysglxm2oqrv3kleq2m9pnx0p+8w3wnw7rvlqb/v3xyvxzvvyofbtpx1qcnibmnjbzg8yjzqcugr42adajhjixjn6ruqnq/tzuivxmy2z7qyqzoce8lc+moqtp5ba9wadcwckbllqtq1sfulkoilcjm1p0tfcqnkpp6okeosmxqxdr62hsu0gwzfoeu+bsuj8e/pvd/+htk9aweuvek12skpfkibytuziijpwgp8kv8js6jpjohsmb0kjt5rwktyy6+gtohdyv</latexit> <latexit sha1_base64="t99u/9q28x6pdjefcaeowqdsga8=">aaacvhiczvfbaxnbfj6stxovtfxrl4mhumgw3sdos0tvhl4ukpi20i1hdvzsmmquy8xsm7dm7/hx+kr4b5xnf03tazn8fod+vqwu3lo4/toj7t1/8pdr1upuk6fpnm/3dl6cwv0zhiomhtyxgbuoumkr407grwmqykzgetb/3pjpr9byrtu3tyxxlolu8yiz6gi16x1mjxwzrkiv/arweo3hanyplxipe3d8vd5lpkskzolcl93/iw8mvx68h68m7okkbx3s2ulkp8psxlnkonjmugsvk7h045oax5la300riyvlczrfywavlwjh9wpxd4pa5fboe55ysglxm2oqrv3kleq2m9pnx0p+8w3wnw7rvlqb/v3xyvxzvvyofbtpx1qcnibmnjbzg8yjzqcugr42adajhjixjn6ruqnq/tzuivxmy2z7qyqzoce8lc+moqtp5ba9wadcwckbllqtq1sfulkoilcjm1p0tfcqnkpp6okeosmxqxdr62hsu0gwzfoeu+bsuj8e/pvd/+htk9aweuvek12skpfkibytuziijpwgp8kv8js6jpjohsmb0kjt5rwktyy6+gtohdyv</latexit> Minimisation Problem: The error equation can not be solved in closed form re(w) = NX ( (w T (x i )) t i ) (x i ) i=1 Instead, we need to apply an iterative approach, e.g. Newton-Raphson re(w) w new = w old H 1 re(w) 10 Hessian Matrix w new w old !13

14 <latexit sha1_base64="ltbdgj9ialz46h4/tyrjpfx4toy=">aaac03iczvllattafb2rr9r9oe2ym6hg4eatjfnonoxqbrojucvodjfjrqmre8g8xmwosrlmu7rtl/u/uu+2/yaobku4zgvjr+e+5t4zwcmzsxh8qxxdu//g4aodx+0nt589f9hzfxlqvkupjkjiso8zyoazcspllidxqygijmnzdvmp9p9dgtzmyro7lgeiyeyyglfiazxtjfnb7dwr3lwfognxhn/am5tiucf7uj8o5+zi5gv92btw+4nha6z/e7ysw25+rn+bdrrxqbwyfbckdeiixobt3rznc0uradjstow5t+lsthzrlleovp1wbkpcl8kmzgouriczunukpo4fjsef0ugrfq/yzqxhhdflkyxi+oxm21et/329tadd1bxnvn9bhe4ck2vlqdj1+6li2cpcbxnntao1fbkaozqfctcde02odvrcqlqll7/vfq9vqkq9vzgvyebdhobnmxxs52iahumedmsjczk4otfuqmamjsu81ginbixvlqyn3dfzhbor2slca+pdipbtieuylcjdcdo4sal+8q579leraae9rm9qhyxoptpcn9eqjrbfp9fv9af9juari75f39ehuavjeyvuwftjhysi5bu=</latexit> <latexit sha1_base64="ltbdgj9ialz46h4/tyrjpfx4toy=">aaac03iczvllattafb2rr9r9oe2ym6hg4eatjfnonoxqbrojucvodjfjrqmre8g8xmwosrlmu7rtl/u/uu+2/yaobku4zgvjr+e+5t4zwcmzsxh8qxxdu//g4aodx+0nt589f9hzfxlqvkupjkjiso8zyoazcspllidxqygijmnzdvmp9p9dgtzmyro7lgeiyeyyglfiazxtjfnb7dwr3lwfognxhn/am5tiucf7uj8o5+zi5gv92btw+4nha6z/e7ysw25+rn+bdrrxqbwyfbckdeiixobt3rznc0uradjstow5t+lsthzrlleovp1wbkpcl8kmzgouriczunukpo4fjsef0ugrfq/yzqxhhdflkyxi+oxm21et/329tadd1bxnvn9bhe4ck2vlqdj1+6li2cpcbxnntao1fbkaozqfctcde02odvrcqlqll7/vfq9vqkq9vzgvyebdhobnmxxs52iahumedmsjczk4otfuqmamjsu81ginbixvlqyn3dfzhbor2slca+pdipbtieuylcjdcdo4sal+8q579leraae9rm9qhyxoptpcn9eqjrbfp9fv9af9juari75f39ehuavjeyvuwftjhysi5bu=</latexit> <latexit sha1_base64="ltbdgj9ialz46h4/tyrjpfx4toy=">aaac03iczvllattafb2rr9r9oe2ym6hg4eatjfnonoxqbrojucvodjfjrqmre8g8xmwosrlmu7rtl/u/uu+2/yaobku4zgvjr+e+5t4zwcmzsxh8qxxdu//g4aodx+0nt589f9hzfxlqvkupjkjiso8zyoazcspllidxqygijmnzdvmp9p9dgtzmyro7lgeiyeyyglfiazxtjfnb7dwr3lwfognxhn/am5tiucf7uj8o5+zi5gv92btw+4nha6z/e7ysw25+rn+bdrrxqbwyfbckdeiixobt3rznc0uradjstow5t+lsthzrlleovp1wbkpcl8kmzgouriczunukpo4fjsef0ugrfq/yzqxhhdflkyxi+oxm21et/329tadd1bxnvn9bhe4ck2vlqdj1+6li2cpcbxnntao1fbkaozqfctcde02odvrcqlqll7/vfq9vqkq9vzgvyebdhobnmxxs52iahumedmsjczk4otfuqmamjsu81ginbixvlqyn3dfzhbor2slca+pdipbtieuylcjdcdo4sal+8q579leraae9rm9qhyxoptpcn9eqjrbfp9fv9af9juari75f39ehuavjeyvuwftjhysi5bu=</latexit> <latexit sha1_base64="ltbdgj9ialz46h4/tyrjpfx4toy=">aaac03iczvllattafb2rr9r9oe2ym6hg4eatjfnonoxqbrojucvodjfjrqmre8g8xmwosrlmu7rtl/u/uu+2/yaobku4zgvjr+e+5t4zwcmzsxh8qxxdu//g4aodx+0nt589f9hzfxlqvkupjkjiso8zyoazcspllidxqygijmnzdvmp9p9dgtzmyro7lgeiyeyyglfiazxtjfnb7dwr3lwfognxhn/am5tiucf7uj8o5+zi5gv92btw+4nha6z/e7ysw25+rn+bdrrxqbwyfbckdeiixobt3rznc0uradjstow5t+lsthzrlleovp1wbkpcl8kmzgouriczunukpo4fjsef0ugrfq/yzqxhhdflkyxi+oxm21et/329tadd1bxnvn9bhe4ck2vlqdj1+6li2cpcbxnntao1fbkaozqfctcde02odvrcqlqll7/vfq9vqkq9vzgvyebdhobnmxxs52iahumedmsjczk4otfuqmamjsu81ginbixvlqyn3dfzhbor2slca+pdipbtieuylcjdcdo4sal+8q579leraae9rm9qhyxoptpcn9eqjrbfp9fv9af9juari75f39ehuavjeyvuwftjhysi5bu=</latexit> Iterative Weighted Least Squares The update rule for the logistic regression methods is then: w new = w old ( T R ) 1 T (y t) Where the weighting metric R depends also on the weights w!14

Logistic Regression. Machine Learning CS5824/ECE5424 Bert Huang Virginia Tech

Logistic Regression. Machine Learning CS5824/ECE5424 Bert Huang Virginia Tech Logistic Regression Machine Learning CS5824/ECE5424 Bert Huang Virginia Tech Outline Review conditional probability and classification Linear parameterization and logistic function Gradient descent Other

Bardziej szczegółowo

Hard-Margin Support Vector Machines

Hard-Margin Support Vector Machines Hard-Margin Support Vector Machines aaacaxicbzdlssnafiyn9vbjlepk3ay2gicupasvu4iblxuaw2hjmuwn7ddjjmxm1bkcg1/fjqsvt76fo9/gazqfvn8y+pjpozw5vx8zkpvtfxmlhcwl5zxyqrm2vrg5zw3vxmsoezi4ogkr6phieky5crvvjhriqvdom9l2xxftevuwcekj3lktmhghgniauiyutvrwxtvme34a77kbvg73gtygpjsrfati1+xc8c84bvraowbf+uwnipyehcvmkjrdx46vlykhkgykm3ujjdhcyzqkxy0chur6ax5cbg+1m4bbjptjcubuz4kuhvjoql93hkin5hxtav5x6yyqopnsyuneey5ni4keqrxbar5wqaxbik00icyo/iveiyqqvjo1u4fgzj/8f9x67bzmxnurjzmijtlybwfgcdjgfdtajwgcf2dwaj7ac3g1ho1n4814n7wwjgjmf/ys8fenfycuzq==

Bardziej szczegółowo

Linear Classification and Logistic Regression. Pascal Fua IC-CVLab

Linear Classification and Logistic Regression. Pascal Fua IC-CVLab Linear Classification and Logistic Regression Pascal Fua IC-CVLab 1 aaagcxicbdtdbtmwfafwdgxlhk8orha31ibqycvkdgpshdqxtwotng2pxtvqujmok1qlky5xllzrnobbediegwcap4votk2kqkf+/y/tnphdschtadu/giv3vtea99cfma8fpx7ytlxx7ckns4sylo3doom7jguhj1hxchmy/irhrlgh67lxb5x3blis8jjqynmedqujiu5zsqqagrx+yjcfpcrydusshmzeluzsg7tttiew5khhcuzm5rv0gn1unw6zl3gbzlpr3liwncyr6aaqinx4wnc/rpg6ix5szd86agoftuu0g/krjxdarph62enthdey3zn/+mi5zknou2ap+tclvhob9sxhwvhaqketnde7geqjp21zvjsfrcnkfhtejoz23vq97elxjlpbtmxpl6qxtl1sgfv1ptpy/yq9mgacrzkgje0hjj2rq7vtywnishnnkzsqekucnlblrarlh8x8szxolrrxkb8n6o4kmo/e7siisnozcfvsedlol60a/j8nmul/gby8mmssrfr2it8lkyxr9dirxxngzthtbaejv

Bardziej szczegółowo

Previously on CSCI 4622

Previously on CSCI 4622 More Naïve Bayes aaace3icbvfba9rafj7ew423vr998obg2gpzkojyh4rcx3ys4lafzbjmjifdototmhoilml+hf/mn3+kl+jkdwtr64gbj+8yl2/ywklhsfircg/dvnp33s796mhdr4+fdj4+o3fvywvorkuqe5zzh0oanjakhwe1ra5zhaf5xvgvn35f62rlvtcyxpnm50awundy1hzwi46jbmgprbtrrvidrg4jre4g07kak+picee6xfgiwvfaltorirucni64eeigkqhpegbwaxglabftpyq4gjbls/hw2ci7tr2xj5ddfmfzwtazj6ubmyddgchbzpf88dmrktfonct6vazputos5zakunhfweow5ukcn+puq8m1ulm7kq+d154pokysx4zgxw4nwq6dw+rcozwnhbuu9et/tgld5cgslazuci1yh1q2ynca/u9ais0kukspulds3xxegvtyfycu8iwk1598e0z2xx/g6ef94ehbpo0d9ok9yiowsvfskh1ix2zcbpsdvaxgww7wj4zdn+he2hogm8xz9s+e7/4cuf/ata==

Bardziej szczegółowo

TTIC 31210: Advanced Natural Language Processing. Kevin Gimpel Spring Lecture 9: Inference in Structured Prediction

TTIC 31210: Advanced Natural Language Processing. Kevin Gimpel Spring Lecture 9: Inference in Structured Prediction TTIC 31210: Advanced Natural Language Processing Kevin Gimpel Spring 2019 Lecture 9: Inference in Structured Prediction 1 intro (1 lecture) Roadmap deep learning for NLP (5 lectures) structured prediction

Bardziej szczegółowo

Bayesian graph convolutional neural networks

Bayesian graph convolutional neural networks Bayesian graph convolutional neural networks Mark Coates Collaborators: Soumyasundar Pal, Yingxue Zhang, Deniz Üstebay McGill University, Huawei Noah s Ark Lab February 13, 2019 Montreal 2 / 36 Introduction

Bardziej szczegółowo

Inverse problems - Introduction - Probabilistic approach

Inverse problems - Introduction - Probabilistic approach Inverse problems - Introduction - Probabilistic approach Wojciech Dȩbski Instytut Geofizyki PAN debski@igf.edu.pl Wydział Fizyki UW, 13.10.2004 Wydział Fizyki UW Warszawa, 13.10.2004 (1) Plan of the talk

Bardziej szczegółowo

Maximum A Posteriori Chris Piech CS109, Stanford University

Maximum A Posteriori Chris Piech CS109, Stanford University Maximum A Posteriori Chris Piech CS109, Stanford University Previously in CS109 Game of Estimators Estimators Maximum Likelihood Non spoiler alert: this didn t happen in game of thrones aaab7nicbva9swnbej2lxzf+rs1tfomqm3anghywarvlcoydkjpsbfasjxt7x+6cei78cbslrwz9pxb+gzfjfzr4yodx3gwz84jecoou++0u1ty3nrek26wd3b39g/lhucveqwa8ywiz605adzdc8sykllytae6jqpj2ml6d+e0nro2i1qnoeu5hdkhekbhfk7u7j1lvne/75ypbc+cgq8tlsqvynprlr94gzmneftjjjel6boj+rjukjvm01esntygb0yhvwqpoxi2fzc+dkjordegya1skyvz9pzhryjhjfnjoiolilhsz8t+vm2j47wdcjslyxralwlqsjmnsdziqmjoue0so08lestiiasrqjlsyixjll6+s1kxnc2ve/wwlfpphuyqtoiuqehafdbidbjsbwrie4rxenmr5cd6dj0vrwclnjuepnm8fuskpig==

Bardziej szczegółowo

TTIC 31210: Advanced Natural Language Processing. Kevin Gimpel Spring Lecture 8: Structured PredicCon 2

TTIC 31210: Advanced Natural Language Processing. Kevin Gimpel Spring Lecture 8: Structured PredicCon 2 TTIC 31210: Advanced Natural Language Processing Kevin Gimpel Spring 2019 Lecture 8: Structured PredicCon 2 1 Roadmap intro (1 lecture) deep learning for NLP (5 lectures) structured predic+on (4 lectures)

Bardziej szczegółowo

Gradient Coding using the Stochastic Block Model

Gradient Coding using the Stochastic Block Model Gradient Coding using the Stochastic Block Model Zachary Charles (UW-Madison) Joint work with Dimitris Papailiopoulos (UW-Madison) aaacaxicbvdlssnafj3uv62vqbvbzwarxjsqikaboelgzux7gcaeywtsdp1mwsxeaepd+ctuxcji1r9w5984bbpq1gmxdufcy733bcmjutn2t1fawl5zxsuvvzy2t7z3zn29lkwyguktjywrnqbjwigntuuvi51uebqhjlsdwfxebz8qiwnc79uwjv6mepxgfcoljd88uiox0m1hvlnzwzgowymjn7tjyzertmvpareju5aqkndwzs83thawe64wq1j2httvxo6eopirccxnjekrhqae6wrkuuykl08/gmnjryqwsoqurubu/t2ro1jkyrzozhipvpz3juj/xjdt0ywxu55mina8wxrldkoetukairuekzbubgfb9a0q95fawonqkjoez/7lrdi6trzbcm7pqvwrio4yoarh4aq44bzuwq1ogcba4be8g1fwzjwzl8a78tfrlrnfzd74a+pzb2h+lzm=

Bardziej szczegółowo

Revenue Maximization. Sept. 25, 2018

Revenue Maximization. Sept. 25, 2018 Revenue Maximization Sept. 25, 2018 Goal So Far: Ideal Auctions Dominant-Strategy Incentive Compatible (DSIC) b i = v i is a dominant strategy u i 0 x is welfare-maximizing x and p run in polynomial time

Bardziej szczegółowo

Supervised Hierarchical Clustering with Exponential Linkage. Nishant Yadav

Supervised Hierarchical Clustering with Exponential Linkage. Nishant Yadav Supervised Hierarchical Clustering with Exponential Linage Nishant Yadav Ari Kobren Nicholas Monath Andrew McCallum At train time, learn A :2 X! Y Supervised Clustering aaab8nicbvdlssnafl2pr1pfvzdugvwvrirdfl147kcfuabymq6aydozslmjvbcp8onc0xc+jxu/bsnbrbaemdgcm69zlntaq36hnftmltfwnzq7xd2dnd2z+ohh61juo1zs2qhnldbgmugqt5chyn9gmxkfgnxbyl/udj6ynv/irpwlyjkspokuojv6/zjgmbkr3cwg1zpx9+zwv4lfbouaa6qx/2homnmjfjbjon5xojbrjryktis08nswidbhrwspjzeyqzspp3dordn1iafsunp190zgymomcwgn84hm2cvf/7xeitf1hgzpmgxxwupcjf5eb3u0ouguuxtyrqzw1wl46jjhrtsxvbgr988ippx9r9yx8ua43boo4ynmapnimpv9cae2hccygoeizxehpqexheny/fampdo7hd5zph3bqvc=

Bardziej szczegółowo

deep learning for NLP (5 lectures)

deep learning for NLP (5 lectures) TTIC 31210: Advanced Natural Language Processing Kevin Gimpel Spring 2019 Lecture 6: Finish Transformers; Sequence- to- Sequence Modeling and AJenKon 1 Roadmap intro (1 lecture) deep learning for NLP (5

Bardziej szczegółowo

Machine Learning for Data Science (CS4786) Lecture 24. Differential Privacy and Re-useable Holdout

Machine Learning for Data Science (CS4786) Lecture 24. Differential Privacy and Re-useable Holdout Machine Learning for Data Science (CS4786) Lecture 24 Differential Privacy and Re-useable Holdout Defining Privacy Defining Privacy Dataset + Defining Privacy Dataset + Learning Algorithm Distribution

Bardziej szczegółowo

Helena Boguta, klasa 8W, rok szkolny 2018/2019

Helena Boguta, klasa 8W, rok szkolny 2018/2019 Poniższy zbiór zadań został wykonany w ramach projektu Mazowiecki program stypendialny dla uczniów szczególnie uzdolnionych - najlepsza inwestycja w człowieka w roku szkolnym 2018/2019. Składają się na

Bardziej szczegółowo

Machine Learning for Data Science (CS4786) Lecture 11. Spectral Embedding + Clustering

Machine Learning for Data Science (CS4786) Lecture 11. Spectral Embedding + Clustering Machine Learning for Data Science (CS4786) Lecture 11 Spectral Embedding + Clustering MOTIVATING EXAMPLE What can you say from this network? MOTIVATING EXAMPLE How about now? THOUGHT EXPERIMENT For each

Bardziej szczegółowo

Neural Networks (The Machine-Learning Kind) BCS 247 March 2019

Neural Networks (The Machine-Learning Kind) BCS 247 March 2019 Neural Networks (The Machine-Learning Kind) BCS 247 March 2019 Neurons http://biomedicalengineering.yolasite.com/neurons.php Networks https://en.wikipedia.org/wiki/network_theory#/media/file:social_network_analysis_visualization.png

Bardziej szczegółowo

Proposal of thesis topic for mgr in. (MSE) programme in Telecommunications and Computer Science

Proposal of thesis topic for mgr in. (MSE) programme in Telecommunications and Computer Science Proposal of thesis topic for mgr in (MSE) programme 1 Topic: Monte Carlo Method used for a prognosis of a selected technological process 2 Supervisor: Dr in Małgorzata Langer 3 Auxiliary supervisor: 4

Bardziej szczegółowo

Towards Stability Analysis of Data Transport Mechanisms: a Fluid Model and an Application

Towards Stability Analysis of Data Transport Mechanisms: a Fluid Model and an Application Towards Stability Analysis of Data Transport Mechanisms: a Fluid Model and an Application Gayane Vardoyan *, C. V. Hollot, Don Towsley* * College of Information and Computer Sciences, Department of Electrical

Bardziej szczegółowo

TTIC 31190: Natural Language Processing

TTIC 31190: Natural Language Processing TTIC 31190: Natural Language Processing Kevin Gimpel Spring 2018 Lecture 17: Machine TranslaDon; SemanDcs Roadmap words, morphology, lexical semandcs text classificadon simple neural methods for NLP language

Bardziej szczegółowo

MoA-Net: Self-supervised Motion Segmentation. Pia Bideau, Rakesh R Menon, Erik Learned-Miller

MoA-Net: Self-supervised Motion Segmentation. Pia Bideau, Rakesh R Menon, Erik Learned-Miller MoA-Net: Self-supervised Motion Segmentation Pia Bideau, Rakesh R Menon, Erik Learned-Miller University of Massachusetts Amherst College of Information and Computer Science Motion Segmentation P Bideau,

Bardziej szczegółowo

Machine Learning for Data Science (CS4786) Lecture11. Random Projections & Canonical Correlation Analysis

Machine Learning for Data Science (CS4786) Lecture11. Random Projections & Canonical Correlation Analysis Machine Learning for Data Science (CS4786) Lecture11 5 Random Projections & Canonical Correlation Analysis The Tall, THE FAT AND THE UGLY n X d The Tall, THE FAT AND THE UGLY d X > n X d n = n d d The

Bardziej szczegółowo

Convolution semigroups with linear Jacobi parameters

Convolution semigroups with linear Jacobi parameters Convolution semigroups with linear Jacobi parameters Michael Anshelevich; Wojciech Młotkowski Texas A&M University; University of Wrocław February 14, 2011 Jacobi parameters. µ = measure with finite moments,

Bardziej szczegółowo

Analysis of Movie Profitability STAT 469 IN CLASS ANALYSIS #2

Analysis of Movie Profitability STAT 469 IN CLASS ANALYSIS #2 Analysis of Movie Profitability STAT 469 IN CLASS ANALYSIS #2 aaaklnictzzjb9tgfmcnadpg7oy0lxa9edva9kkapdarhyk2k7gourinlwsweyzikuyiigvyleiv/cv767fpf/5crc1xt9va5mx7w3m/ecuqw1kuztpx/rl3/70h73/w4cog9dhhn3z62d6jzy+yzj766txpoir9nzszisjynetqr+rvlfvyoozu5xbybpsxb1wahul8phczdt2v4zgchb7uecwphlyigrgkjcyiflfyci0kxnmr4z6kw0jsokvot8isntpa3gbknlcufiv/h+hh+eur4fomd417rvtfjoit5pfju6yxiab2fmwk0y/feuybobqk+axnke8xzjjhfyd8kkpl9zdoddkazd5j6bzpemjb64smjb6vb4xmehysu08lsrszopxftlzee130jcb0zjxy7r5wa2f1s2off2+dyatrughnrtpkuprlcpu55zlxpss/yqe2eamjkcf0jye8w8yas0paf6t0t2i9stmcua+inbi2rt01tz22tubbqwidypvgz6piynkpobirkxgu54ibzoti4pkw2i5ow9lnuaoabhuxfxqhvnrj6w15tb3furnbm+scyxobjhr5pmj5j/w5ix9wsa2tlwx9alpshlunzjgnrwvqbpwzjl9wes+ptyn+ypy/jgskavtl8j0hz1djdhzwtpjbbvpr1zj7jpg6ve7zxfngj75zee0vmp9qm2uvgu/9zdofq6r+g8l4xctvo+v+xdrfr8oxiwutycu0qgyf8icuyvp/sixfi9zxe11vp6mrjjovpmxm6acrtbia+wjr9bevlgjwlz5xd3rfna9g06qytaoofk8olxbxc7xby2evqjmmk6pjvvzxmpbnct6+036xp5vdbrnbdqph8brlfn/n/khnfumhf6z1v7h/80yieukkd5j0un82t9mynxzmk0s/bzn4tacdziszdhwrl8x5ako8qp1n1zn0k6w2em0km9zj1i4yt1pt3xiprw85jmc2m1ut2geum6y6es2fwx6c+wlrpykblopbuj5nnr2byygfy5opllv4+jmm7s6u+tvhywbnb0kv2lt5th4xipmiij+y1toiyo7bo0d+vzvovjkp6aoejsubhj3qrp3fjd/m23pay8h218ibvx3nicofvd1xi86+kh6nb/b+hgsjp5+qwpurzlir15np66vmdehh6tyazdm1k/5ejtuvurgcqux6yc+qw/sbsaj7lkt4x9qmtp7euk6zbdedyuzu6ptsu2eeu3rxcz06uf6g8wyuveznhkbzynajbb7r7cbmla+jbtrst0ow2v6ntkwv8svnwqnu5pa3oxfeexf93739p93chq/fv+jr8r0d9brhpcxr2w88bvqbr41j6wvrb+u5dzjpvx+veoaxwptzp/8cen+xbg==

Bardziej szczegółowo

Wprowadzenie do programu RapidMiner Studio 7.6, część 9 Modele liniowe Michał Bereta

Wprowadzenie do programu RapidMiner Studio 7.6, część 9 Modele liniowe Michał Bereta Wprowadzenie do programu RapidMiner Studio 7.6, część 9 Modele liniowe Michał Bereta www.michalbereta.pl Modele liniowe W programie RapidMiner mamy do dyspozycji kilka dyskryminacyjnych modeli liniowych

Bardziej szczegółowo

SPOTKANIE 3: Regresja: Regresja liniowa

SPOTKANIE 3: Regresja: Regresja liniowa Wrocław University of Technology SPOTKANIE 3: Regresja: Regresja liniowa Adam Gonczarek Studenckie Koło Naukowe Estymator adam.gonczarek@pwr.wroc.pl 22.11.2013 Rozkład normalny Rozkład normalny (ang. normal

Bardziej szczegółowo

Verification in POMDPs

Verification in POMDPs Verification in OMDs rivacy, machine teaching and other belief-related problems Ufuk Topcu The University of Texas at Austin Slides originally prepared by Bo Wu. http://u-t-autonomous.info Ufuk Topcu rotecting

Bardziej szczegółowo

KORELACJA 1. Wykres rozrzutu ocena związku między zmiennymi X i Y. 2. Współczynnik korelacji Pearsona

KORELACJA 1. Wykres rozrzutu ocena związku między zmiennymi X i Y. 2. Współczynnik korelacji Pearsona KORELACJA 1. Wykres rozrzutu ocena związku między zmiennymi X i Y 2. Współczynnik korelacji Pearsona 3. Siła i kierunek związku między zmiennymi 4. Korelacja ma sens, tylko wtedy, gdy związek między zmiennymi

Bardziej szczegółowo

Wstęp do Metod Systemowych i Decyzyjnych Opracowanie: Jakub Tomczak

Wstęp do Metod Systemowych i Decyzyjnych Opracowanie: Jakub Tomczak Wstęp do Metod Systemowych i Decyzyjnych Opracowanie: Jakub Tomczak 1 Wprowadzenie. Zmienne losowe Podczas kursu interesować nas będzie wnioskowanie o rozpatrywanym zjawisku. Poprzez wnioskowanie rozumiemy

Bardziej szczegółowo

Wrocław University of Technology. Uczenie głębokie. Maciej Zięba

Wrocław University of Technology. Uczenie głębokie. Maciej Zięba Wrocław University of Technology Uczenie głębokie Maciej Zięba UCZENIE GŁĘBOKIE (ang. deep learning) = klasa metod uczenia maszynowego, gdzie model ma strukturę hierarchiczną złożoną z wielu nieliniowych

Bardziej szczegółowo

TSBB15 Computer Vision

TSBB15 Computer Vision TSBB15 Computer Vision Lecture 10 Recap. of TSBB06, Maximum Likelihood and RANSAC!1 Prelude to Project 2 Image credit: Bundler home page http://www.cs.cornell.edu/~snavely/bundler/ Project 2: Start with

Bardziej szczegółowo

1945 (96,1%) backlinks currently link back. 1505 (74,4%) links bear full SEO value. 0 links are set up using embedded object

1945 (96,1%) backlinks currently link back. 1505 (74,4%) links bear full SEO value. 0 links are set up using embedded object Website Backlinks Analysis Report 2023 backlinks from 224 domains Report created: Jan 3, 2015 Website: http://wpisz.stronę.odbiorcy Compared with: 7 day(s) old Domain Statistics The domain seo.zgred.pl

Bardziej szczegółowo

Learning about Language with Normalizing Flows Graham Neubig Language Technologies Institute, Carnegie Mellon University

Learning about Language with Normalizing Flows Graham Neubig Language Technologies Institute, Carnegie Mellon University Learning about Language with Normalizing Flows Graham Neubig Language Technologies Institute, Carnegie Mellon University Chunting Zhou Junxian He Di Wang, Xuezhe Ma, Daniel Spokoyny, Taylor Berg-Kirkpatrick

Bardziej szczegółowo

Probabilistic Methods and Statistics. Computer Science 1 st degree (1st degree / 2nd degree) General (general / practical)

Probabilistic Methods and Statistics. Computer Science 1 st degree (1st degree / 2nd degree) General (general / practical) MODULE DESCRIPTION Module code Module name Metody probabilistyczne i statystyka Module name in English Probabilistic Methods and Statistics Valid from academic year 2012/2013 MODULE PLACEMENT IN THE SYLLABUS

Bardziej szczegółowo

A hybrid quantum-classical recommender system. Andrea Skolik

A hybrid quantum-classical recommender system. Andrea Skolik A hybrid quantum-classical recommender system Andrea Skolik A recommender system built on matrix factorization got inspired by nonnegative/binary matrix factorization at Qubits 2018 [1] Q: where can we

Bardziej szczegółowo

Compressing the information contained in the different indexes is crucial for performance when implementing an IR system

Compressing the information contained in the different indexes is crucial for performance when implementing an IR system 4.2 Compression Compressing the information contained in the different indexes is crucial for performance when implementing an IR system on current hardware it is typically much faster to read compressed

Bardziej szczegółowo

The Lorenz System and Chaos in Nonlinear DEs

The Lorenz System and Chaos in Nonlinear DEs The Lorenz System and Chaos in Nonlinear DEs April 30, 2019 Math 333 p. 71 in Chaos: Making a New Science by James Gleick Adding a dimension adds new possible layers of complexity in the phase space of

Bardziej szczegółowo

SPOTKANIE 2: Wprowadzenie cz. I

SPOTKANIE 2: Wprowadzenie cz. I Wrocław University of Technology SPOTKANIE 2: Wprowadzenie cz. I Piotr Klukowski Studenckie Koło Naukowe Estymator piotr.klukowski@pwr.edu.pl 17.10.2016 UCZENIE MASZYNOWE 2/27 UCZENIE MASZYNOWE = Konstruowanie

Bardziej szczegółowo

Wprowadzenie do programu RapidMiner, część 3 Michał Bereta

Wprowadzenie do programu RapidMiner, część 3 Michał Bereta Wprowadzenie do programu RapidMiner, część 3 Michał Bereta www.michalbereta.pl 1. W programie RapidMiner mamy do dyspozycji kilka dyskryminacyjnych modeli liniowych jako operatory: a. LDA Linear Discriminant

Bardziej szczegółowo

Stability of Tikhonov Regularization Class 07, March 2003 Alex Rakhlin

Stability of Tikhonov Regularization Class 07, March 2003 Alex Rakhlin Stability of Tikhonov Regularization 9.520 Class 07, March 2003 Alex Rakhlin Plan Review of Stability Bounds Stability of Tikhonov Regularization Algorithms Uniform Stability Review notation: S = {z 1,...,

Bardziej szczegółowo

Agnostic Learning and VC dimension

Agnostic Learning and VC dimension Agnostic Learning and VC dimension Machine Learning Spring 2019 The slides are based on Vivek Srikumar s 1 This Lecture Agnostic Learning What if I cannot guarantee zero training error? Can we still get

Bardziej szczegółowo

SPOTKANIE 4: Klasyfikacja: Regresja logistyczna

SPOTKANIE 4: Klasyfikacja: Regresja logistyczna Wrocław University of Technology SPOTKANIE 4: Klasyfikacja: Regresja logistyczna Szymon Zaręba Studenckie Koło Naukowe Estymator 179226@student.pwr.wroc.pl 23.11.2012 Rozkład dwupunktowy i dwumianowy Rozkład

Bardziej szczegółowo

Klasyfikacja Support Vector Machines

Klasyfikacja Support Vector Machines Klasyfikacja Support Vector Machines LABORKA Piotr Ciskowski przykład 1 KLASYFIKACJA KWIATKÓW IRYSA przykład 1. klasyfikacja kwiatków irysa (versicolor-virginica) żródło: pomoc MATLABa: http://www.mathworks.com/help/stats/svmclassify.html

Bardziej szczegółowo

Symmetry and Geometry of Generalized Higgs Sectors

Symmetry and Geometry of Generalized Higgs Sectors Symmetry and Geometry of Generalized Higgs Sectors Ryo Nagai Tohoku University in collaboration with M. Tanabashi (Nagoya U.), Y. Uchida (Nagoya U.), and K. Tsumura (Kyoto U.) PPP2018 @ YITP, Aug. 6-10,

Bardziej szczegółowo

New Roads to Cryptopia. Amit Sahai. An NSF Frontier Center

New Roads to Cryptopia. Amit Sahai. An NSF Frontier Center New Roads to Cryptopia Amit Sahai An NSF Frontier Center OPACity Panel, May 19, 2019 New Roads to Cryptopia What about all this space? Cryptography = Hardness* PKE RSA MPC DDH ZK Signatures Factoring IBE

Bardziej szczegółowo

Klasyfikacja naiwny Bayes

Klasyfikacja naiwny Bayes Klasyfikacja naiwny Bayes LABORKA Piotr Ciskowski NAIWNY KLASYFIKATOR BAYESA wyjaśnienie Naiwny klasyfikator Bayesa żródło: Internetowy Podręcznik Statystyki Statsoft dane uczące 2 klasy - prawdopodobieństwo

Bardziej szczegółowo

Department of Electrical- and Information Technology. Dealing with stochastic processes

Department of Electrical- and Information Technology. Dealing with stochastic processes Dealing with stochastic processes The stochastic process (SP) Definition (in the following material): A stochastic process is random process that happens over time, i.e. the process is dynamic and changes

Bardziej szczegółowo

Camspot 4.4 Camspot 4.5

Camspot 4.4 Camspot 4.5 User manual (addition) Dodatek do instrukcji obsługi Camspot 4.4 Camspot 4.5 1. WiFi configuration 2. Configuration of sending pictures to e-mail/ftp after motion detection 1. Konfiguracja WiFi 2. Konfiguracja

Bardziej szczegółowo

reinforcement learning through the optimization lens Benjamin Recht University of California, Berkeley

reinforcement learning through the optimization lens Benjamin Recht University of California, Berkeley reinforcement learning through the optimization lens Benjamin Recht University of California, Berkeley trustable, scalable, predictable Control Theory! Reinforcement Learning is the study of how to use

Bardziej szczegółowo

Wprowadzenie do uczenia maszynowego. Jakub Tomczak

Wprowadzenie do uczenia maszynowego. Jakub Tomczak Wprowadzenie do uczenia maszynowego Jakub Tomczak 2014 ii Rozdział 1 Pojęcia podstawowe 1.1 Wprowadzenie. Zmienne losowe ˆ Podczas kursu interesować nas będzie wnioskowanie o rozpatrywanym zjawisku. Poprzez

Bardziej szczegółowo

A Zadanie

A Zadanie where a, b, and c are binary (boolean) attributes. A Zadanie 1 2 3 4 5 6 7 8 9 10 Punkty a (maks) (2) (2) (2) (2) (4) F(6) (8) T (8) (12) (12) (40) Nazwisko i Imiȩ: c Uwaga: ta część zostanie wypełniona

Bardziej szczegółowo

Ćwiczenia 2 IBM DB2 Data Studio

Ćwiczenia 2 IBM DB2 Data Studio Ćwiczenia 2 IBM DB2 Data Studio Temat: Aplikacje w Data Studio 1. Projekty Tworzenie procedur, UDF, trygerów zaczynamy od utworzenia projektu File -> New -> Project wybieramy Data Development Project.

Bardziej szczegółowo

Internet of Things Devices

Internet of Things Devices Internet of Things Devices } Internet of Things (IoT) devices } Have access to an abundance of raw data } In home, work, or vehicle IoT: Raw Data & Processing } IoT is gaining ground with the widespread

Bardziej szczegółowo

Strategic planning. Jolanta Żyśko University of Physical Education in Warsaw

Strategic planning. Jolanta Żyśko University of Physical Education in Warsaw Strategic planning Jolanta Żyśko University of Physical Education in Warsaw 7S Formula Strategy 5 Ps Strategy as plan Strategy as ploy Strategy as pattern Strategy as position Strategy as perspective Strategy

Bardziej szczegółowo

THE RATE OF GW CAPTURE OF STELLAR-MASS BHS IN NUCLEAR STAR CLUSTERS. Alexander Rasskazov & Bence Kocsis Eotvos University

THE RATE OF GW CAPTURE OF STELLAR-MASS BHS IN NUCLEAR STAR CLUSTERS. Alexander Rasskazov & Bence Kocsis Eotvos University THE RATE OF GW CAPTURE OF STELLAR-MASS BHS IN NUCLEAR STAR CLUSTERS Alexander Rasskazov & Bence Kocsis Eotvos University Merger rate density of events with e>0.1 in the LIGO band (>10 Hz), Gpc -3 yr -1

Bardziej szczegółowo

Prices and Volumes on the Stock Market

Prices and Volumes on the Stock Market Prices and Volumes on the Stock Market Krzysztof Karpio Piotr Łukasiewicz Arkadiusz Orłowski Warszawa, 25-27 listopada 2010 1 Data selection Warsaw Stock Exchange WIG index assets most important for investors

Bardziej szczegółowo

Mixed-integer Convex Representability

Mixed-integer Convex Representability Mixed-integer Convex Representability Juan Pablo Vielma Massachuse=s Ins?tute of Technology Joint work with Miles Lubin and Ilias Zadik INFORMS Annual Mee?ng, Phoenix, AZ, November, 2018. Mixed-Integer

Bardziej szczegółowo

Interkonekty analogowe RCA/XLR

Interkonekty analogowe RCA/XLR Cennik detaliczny produktów MIT CABLES Audio Forte S.J. D. Bączewski, A. Wójtowicz Sp. Jawna ul. Rejtana 7/9, 02-516 Warszawa e-mail: biuro@audioforte.com.pl tel./fax 22 646 69 99, 22 409 47 43 Interkonekty

Bardziej szczegółowo

OpenPoland.net API Documentation

OpenPoland.net API Documentation OpenPoland.net API Documentation Release 1.0 Michał Gryczka July 11, 2014 Contents 1 REST API tokens: 3 1.1 How to get a token............................................ 3 2 REST API : search for assets

Bardziej szczegółowo

Niezawodność diagnostyka systemów laboratorium

Niezawodność diagnostyka systemów laboratorium Doc. dr inż. Jacek Jarnicki Niezawodność diagnostyka systemów laboratorium 1. Zajęcia wprowadzające treść ćwiczenia Informacje wstępne, cel zajęć, organizacja zajęć, materiały dydaktyczne, sprawozdania,

Bardziej szczegółowo

Laboratorium Programowania Kart Elektronicznych

Laboratorium Programowania Kart Elektronicznych Laboratorium Programowania Kart Elektronicznych Programowanie BasicCard Marek Gosławski Przygotowanie do zajęć dokumentacja ZeitControl BasicCard środowisko programistyczne karta BasicCard Potrzebne wiadomości

Bardziej szczegółowo

Strangeness in nuclei and neutron stars: many-body forces and the hyperon puzzle

Strangeness in nuclei and neutron stars: many-body forces and the hyperon puzzle Strangeness in nuclei and neutron stars: many-body forces and the hyperon puzzle Diego Lonardoni FRIB Theory Fellow In collaboration with: S. Gandolfi, LAL J. A. Carlson, LAL A. Lovato, AL & IF F. Pederiva,

Bardziej szczegółowo

Mikroskopia polowa. Efekt tunelowy Historia odkryć Uwagi o tunelowaniu Zastosowane rozwiązania. Bolesław AUGUSTYNIAK

Mikroskopia polowa. Efekt tunelowy Historia odkryć Uwagi o tunelowaniu Zastosowane rozwiązania. Bolesław AUGUSTYNIAK Mikroskopia polowa Efekt tunelowy Historia odkryć Uwagi o tunelowaniu Zastosowane rozwiązania Bolesław AUGUSTYNIAK Efekt tunelowy Efekt kwantowy, którym tłumaczy się przenikanie elektronu w sposób niezgodny

Bardziej szczegółowo

Extraclass. Football Men. Season 2009/10 - Autumn round

Extraclass. Football Men. Season 2009/10 - Autumn round Extraclass Football Men Season 2009/10 - Autumn round Invitation Dear All, On the date of 29th July starts the new season of Polish Extraclass. There will be live coverage form all the matches on Canal+

Bardziej szczegółowo

Learning to find good correspondences

Learning to find good correspondences Learning to find good correspondences K.M. Yi, E. Trulls, Y. Ono, V. Lepetit, M. Salzmann, P. Fua CVPR 2018 (Salt Lake City, UT, USA) Local features matter Keypoints provide us with a robust way to match

Bardziej szczegółowo

y = The Chain Rule Show all work. No calculator unless otherwise stated. If asked to Explain your answer, write in complete sentences.

y = The Chain Rule Show all work. No calculator unless otherwise stated. If asked to Explain your answer, write in complete sentences. The Chain Rule Show all work. No calculator unless otherwise stated. If asked to Eplain your answer, write in complete sentences. 1. Find the derivative of the functions y 7 (b) (a) ( ) y t 1 + t 1 (c)

Bardziej szczegółowo

ZASTOSOWANIE ODCINKOWO-LINIOWEGO MINIMODELU DO MODELOWANIA PRODUKCJI SPRZEDANEJ PRZEMYSŁU

ZASTOSOWANIE ODCINKOWO-LINIOWEGO MINIMODELU DO MODELOWANIA PRODUKCJI SPRZEDANEJ PRZEMYSŁU ZASTOSOWANIE ODCINKOWO-LINIOWEGO MINIMODELU DO MODELOWANIA PRODUKCJI SPRZEDANEJ PRZEMYSŁU W artykule przedstawiono now metod modelowania zjawisk ekonomicznych. Metoda odcinkowo-liniowego minimodelu szczególnie

Bardziej szczegółowo

Wprowadzenie do programu RapidMiner, część 2 Michał Bereta 1. Wykorzystanie wykresu ROC do porównania modeli klasyfikatorów

Wprowadzenie do programu RapidMiner, część 2 Michał Bereta  1. Wykorzystanie wykresu ROC do porównania modeli klasyfikatorów Wprowadzenie do programu RapidMiner, część 2 Michał Bereta www.michalbereta.pl 1. Wykorzystanie wykresu ROC do porównania modeli klasyfikatorów Zaimportuj dane pima-indians-diabetes.csv. (Baza danych poświęcona

Bardziej szczegółowo

Ćwiczenia na egzamin - zaliczenie różnic programowych

Ćwiczenia na egzamin - zaliczenie różnic programowych Ćwiczenia na egzamin - zaliczenie różnic programowych Ex.1 Complete sentences the correct form of verb have got. Uzupełnij zdania właściwą formą czasownika have got : 1.My dad three brothers. 2. We an

Bardziej szczegółowo

Dealing with continuous-valued attributes

Dealing with continuous-valued attributes Dealing with continuous-valued attributes An alternative measure: gain ratio Handling incomplete training data Handling attributes with different costs Ensemble of Classifiers Why Ensemble Works? Some

Bardziej szczegółowo

Nonlinear data assimilation for ocean applications

Nonlinear data assimilation for ocean applications Nonlinear data assimilation for ocean applications Peter Jan van Leeuwen, Manuel Pulido, Jacob Skauvold, Javier Amezcua, Polly Smith, Met Ades, Mengbin Zhu Comparing observations and models Ensure they

Bardziej szczegółowo

Chapter 1: Review Exercises

Chapter 1: Review Exercises Chpter : Review Eercises Chpter : Review Eercises - Evlute the following integrls:..... 6. 8. ( + ) 9. +.. ( + ). ( ). 8. 9....... 6. 7. (csc + + ) sin tn 6. ( )( + ) 7. ) 8.. + ( + )( ). ( ) sin sin sec

Bardziej szczegółowo

Horseshoe Priors for Bayesian Neural Networks

Horseshoe Priors for Bayesian Neural Networks Horseshoe Priors for Bayesian Neural Networks Soumya Ghosh Jiayu Yao Finale Doshi-Velez IBM Research Harvard Harvard MIT-IBM Watson AI lab 1 aaacbxicbzdlssnafiyn9vbrlepsf4nfqagleue3qtgnywr2am0ik+mkhtqzctmtmyru3pgqblwo4tz3cofbogmz0oopax//oyc55w9irpv2nc+rtlc4tlxsxq2srw9sbtnbo20leoljcwsmzddaijdksuttzug3lgrfasodyhyv1zt3rcoq+k1oy+jfamhpsdhsxvlt/rrewjhfj5aeycsyzqr2fwspirdued+uonvnkvgx3akqofdttz/7a4gtihcngvkq5zqx9jikncwmtcr9rjey4teakp5bjikivgx6xqqegmcaqyhn4xpo3z8tgyqusqpadobbqvlabv5x6yu6ppcyyunee45nh4ujg1rapbi4ojjgzvidcetqdov4hctc2grxmsg48yf/hfzj3tv8c1ptxbzxlmeeoaa14iiz0adxoalaaimh

Bardziej szczegółowo

Boosting. Sewoong Oh. CSE/STAT 416 University of Washington

Boosting. Sewoong Oh. CSE/STAT 416 University of Washington Boosting Sewoong Oh CSE/STAT 416 University of Washington Ensemble classifier: Aggregating weak classifiers!2 Consider a scenario where we train many weak classifiers on a given data f 1 (x) aaab73icbva9twjbej3dl8qv1njmi5hgq+6w0jjoy4mjfcrwixvlhmzy3tt394zkwp+wsdayw/+onf/gba5q8cwtvlw3k5l5qcyznq777etw1jc2t/lbhz3dvf2d4ufrs0ejirrjih6ptoa15uzspmgg006skbybp+1gfdpz249uarbjezojqs/wulkqewys1cmhfa/ydf7uf0tu1z0drriviyxi0ogxv3qdicscskm41rrrubhxu6wmi5xoc71e0xitmr7srqusc6r9dh7vfj1zzydcsnmsbs3v3xmpflpprga7btyjveznxp+8bmlckz9lmk4mlwsxkew4mhgapy8gtffi+mqstbsztyiywgotyymq2bc85zdxsatw9s6qtbtaqx6dxzghezifcnhwcxw4hqy0gqchz3ifn+fbexheny9fa87jzo7hd5zph03vjtm=

Bardziej szczegółowo

Zastosowanie sieci neuronowych w problemie klasyfikacji wielokategorialnej. Adam Żychowski

Zastosowanie sieci neuronowych w problemie klasyfikacji wielokategorialnej. Adam Żychowski Zastosowanie sieci neuronowych w problemie klasyfikacji wielokategorialnej Adam Żychowski Definicja problemu Każdy z obiektów może należeć do więcej niż jednej kategorii. Alternatywna definicja Zastosowania

Bardziej szczegółowo

Rozpoznawanie twarzy metodą PCA Michał Bereta 1. Testowanie statystycznej istotności różnic między jakością klasyfikatorów

Rozpoznawanie twarzy metodą PCA Michał Bereta   1. Testowanie statystycznej istotności różnic między jakością klasyfikatorów Rozpoznawanie twarzy metodą PCA Michał Bereta www.michalbereta.pl 1. Testowanie statystycznej istotności różnic między jakością klasyfikatorów Wiemy, że możemy porównywad klasyfikatory np. za pomocą kroswalidacji.

Bardziej szczegółowo

Metody predykcji analiza regresji wielokrotnej, nieliniowej i wybór zmiennych

Metody predykcji analiza regresji wielokrotnej, nieliniowej i wybór zmiennych Metody predykcji analiza regresji wielokrotnej, nieliniowej i wybór zmiennych TPD 2009/2010 Aktualizacja w 2010 JERZY STEFANOWSKI Instytut Informatyki Politechnika Poznańska Przebieg wykładu Poprzednie

Bardziej szczegółowo

Machine Learning for Data Science (CS4786) Lecture 8. Kernel PCA & Isomap + TSNE

Machine Learning for Data Science (CS4786) Lecture 8. Kernel PCA & Isomap + TSNE Machie Learig for Data Sciece (CS4786) Lecture 8 Kerel PCA & Isomap + TSNE LINEAR PROJECTIONS X d W = Y K d K Works whe data lies i a low dimesioal liear sub-space KERNEL TRICK ( ) ( ) We have have ice

Bardziej szczegółowo

Uczenie ze wzmocnieniem

Uczenie ze wzmocnieniem Uczenie ze wzmocnieniem Maria Ganzha Wydział Matematyki i Nauk Informatycznych 2018-2019 Temporal Difference learning Uczenie oparte na różnicach czasowych Problemy predykcyjne (wieloetapowe) droga do

Bardziej szczegółowo

STATYSTYKA OD PODSTAW Z SYSTEMEM SAS. wersja 9.2 i 9.3. Szkoła Główna Handlowa w Warszawie

STATYSTYKA OD PODSTAW Z SYSTEMEM SAS. wersja 9.2 i 9.3. Szkoła Główna Handlowa w Warszawie STATYSTYKA OD PODSTAW Z SYSTEMEM SAS wersja 9.2 i 9.3 Szkoła Główna Handlowa w Warszawie Spis treści Wprowadzenie... 6 1. Podstawowe informacje o systemie SAS... 9 1.1. Informacje ogólne... 9 1.2. Analityka...

Bardziej szczegółowo

Laboratorium Programowania Kart Elektronicznych

Laboratorium Programowania Kart Elektronicznych Laboratorium Programowania Kart Elektronicznych Marek Gosławski Przygotowanie do zajęć dokumentacja ZeitControl BasicCard środowisko programistyczne karta BasicCard Potrzebne wiadomości język angielski

Bardziej szczegółowo

USB firmware changing guide. Zmiana oprogramowania za przy użyciu połączenia USB. Changelog / Lista Zmian

USB firmware changing guide. Zmiana oprogramowania za przy użyciu połączenia USB. Changelog / Lista Zmian 1 / 12 Content list / Spis Treści 1. Hardware and software requirements, preparing device to upgrade Wymagania sprzętowe i programowe, przygotowanie urządzenia do aktualizacji 2. Installing drivers needed

Bardziej szczegółowo

METHOD 2 -DIAGNOSTIC OUTSIDE

METHOD 2 -DIAGNOSTIC OUTSIDE VW MOTOMETER BOSCH METHOD 1 - OBD 2 METHOD 2 -DIAGNOSTIC OUTSIDE AFTER OPERATION YOU MUST DISCONECT ACU OR REMOVE FUSE FOR RESTART ODOMETER PO ZROBIENIU LICZNIKA ZDJĄĆ KLEMĘ LUB WYJĄĆ 2 BEZPIECZNIKI OD

Bardziej szczegółowo

Logika rozmyta typu 2

Logika rozmyta typu 2 Logika rozmyta typu 2 Zbiory rozmyte Funkcja przynależności Interwałowe zbiory rozmyte Funkcje przynależności przedziałów Zastosowanie.9.5 Francuz Polak Niemiec Arytmetyka przedziałów Operacje zbiorowe

Bardziej szczegółowo

Laboratorium 6. Indukcja drzew decyzyjnych.

Laboratorium 6. Indukcja drzew decyzyjnych. Laboratorium 6 Indukcja drzew decyzyjnych. 1. Uruchom narzędzie Oracle Data Miner i połącz się z serwerem bazy danych. 2. Z menu głównego wybierz Activity Build. Na ekranie powitalnym kliknij przycisk

Bardziej szczegółowo

Twoje osobiste Obliczenie dla systemu ogrzewania i przygotowania c.w.u.

Twoje osobiste Obliczenie dla systemu ogrzewania i przygotowania c.w.u. Twoje osobiste Obliczenie dla systemu ogrzewania i przygotowania c.w.u. Wyłączenie odpowiedzialności This Erp calculation Tool is provided by Brötje. Access to and use of this Tool shall impose the following

Bardziej szczegółowo

Stanisław Cichocki. Natalia Nehrebecka

Stanisław Cichocki. Natalia Nehrebecka Stanisław Cichocki Natalia Nehrebecka 1 1. Wstęp a) Binarne zmienne zależne b) Interpretacja ekonomiczna c) Interpretacja współczynników 2. Liniowy model prawdopodobieństwa a) Interpretacja współczynników

Bardziej szczegółowo

ARMAX (ANN) : :. (ANN) ARMAX.... ARMAX ARMA :..Q47 E27 C53 C45 :JEL

ARMAX (ANN) : :. (ANN) ARMAX.... ARMAX ARMA :..Q47 E27 C53 C45 :JEL 47-70 39 7 ARMAX (ANN) 39 9 : 39 :. (ANN) ARMAX.... ARMAX ARMA :..Q47 E7 C53 C45 :JEL navid_moarrefzadeh@yahoo.com 7 48....... (ANN). ARMAX..... 90. (994)... Kuan & White Yousefi (994) 49... (993) (995).

Bardziej szczegółowo

Zmiany techniczne wprowadzone w wersji Comarch ERP Altum

Zmiany techniczne wprowadzone w wersji Comarch ERP Altum Zmiany techniczne wprowadzone w wersji 2018.2 Copyright 2016 COMARCH SA Wszelkie prawa zastrzeżone Nieautoryzowane rozpowszechnianie całości lub fragmentu niniejszej publikacji w jakiejkolwiek postaci

Bardziej szczegółowo

KDD and DM 1 W8: REGUŁY DECYZYJNE. Nguyen Hung Son

KDD and DM 1 W8: REGUŁY DECYZYJNE. Nguyen Hung Son DM 1 W8: REGUŁY DECYZYJNE Nguyen Hung Son Tematy DM 2 Reguły decyzyjne: prosty opis klas decyzyjnych Problem wyszukiwania reguł decyzyjnych Algorytmy generowania reguł decyzyjnych Sekwencyjne pokrywanie

Bardziej szczegółowo

Spis treści. Przedmowa Monika Książek Rozdział I Analiza danych jakościowych... 25

Spis treści. Przedmowa Monika Książek Rozdział I Analiza danych jakościowych... 25 Spis treści Przedmowa................................................................ 17 Monika Książek Rozdział I Analiza danych jakościowych................................................. 25 I. Teoria....................................................................

Bardziej szczegółowo

DMX DMX DMX DMX: CREATE MINING STRUCTURE. Tadeusz Pankowski www.put.poznan.pl/~tadeusz.pankowski

DMX DMX DMX DMX: CREATE MINING STRUCTURE. Tadeusz Pankowski www.put.poznan.pl/~tadeusz.pankowski DMX DMX DMX Data Mining Extensions jest językiem do tworzenia i działania na modelach eksploracji danych w Microsoft SQL Server Analysis Services SSAS. Za pomocą DMX można tworzyć strukturę nowych modeli

Bardziej szczegółowo

Conference programme

Conference programme Conference programme Monday, 3rd of December 9:00 9:10 Opening of the conference 9:10 9:55 Krzysztof Łatuszyński Bayesian Inference in Intractable Likelihood Models, part I 9:55 10:10 Coffee break 10:10

Bardziej szczegółowo

Andrzej KORNACKI Ewa SOKOŁOWSKA. 1. Introduction. 1. Wprowadzenie

Andrzej KORNACKI Ewa SOKOŁOWSKA. 1. Introduction. 1. Wprowadzenie Andrzej KORNACKI Ewa SOKOŁOWSKA Ocena czasu poprawnej pracy do uszkodzenia za pomocą Kryterium Informacyjnego Akaike The estimation of smooth operation time until failure with the application of the Akaike

Bardziej szczegółowo

Label-Noise Robust Generative Adversarial Networks

Label-Noise Robust Generative Adversarial Networks Label-Noise Robust Generative Adversarial Networks Training data rcgan Noisy labeled Conditioned on clean labels Takuhiro Kaneko1 Yoshitaka Ushiku1 Tatsuya Harada1, 2 1The University of Tokyo 2RIKEN Talk

Bardziej szczegółowo

Instrukcja konfiguracji usługi Wirtualnej Sieci Prywatnej w systemie Mac OSX

Instrukcja konfiguracji usługi Wirtualnej Sieci Prywatnej w systemie Mac OSX UNIWERSYTETU BIBLIOTEKA IEGO UNIWERSYTETU IEGO Instrukcja konfiguracji usługi Wirtualnej Sieci Prywatnej w systemie Mac OSX 1. Make a new connection Open the System Preferences by going to the Apple menu

Bardziej szczegółowo

dr Krzysztof Korus partner, radca prawny, ekonomista

dr Krzysztof Korus partner, radca prawny, ekonomista Zapraszamy do zapoznania się z fragmentem prezentacji: Problematyka Dyrektywy PSD II w branży telekomunikacyjnej wprowadzenie W razie zainteresowania jej pełną treścią, zapraszamy do kontaktu MMC: Problematyka

Bardziej szczegółowo

Latent Dirichlet Allocation Models and their Evaluation IT for Practice 2016

Latent Dirichlet Allocation Models and their Evaluation IT for Practice 2016 Latent Dirichlet Allocation Models and their Evaluation IT for Practice 2016 Paweł Lula Cracow University of Economics, Poland pawel.lula@uek.krakow.pl Latent Dirichlet Allocation (LDA) Documents Latent

Bardziej szczegółowo

harmonic functions and the chromatic polynomial

harmonic functions and the chromatic polynomial harmonic functions and the chromatic polynomial R. Kenyon (Brown) based on joint work with A. Abrams, W. Lam The chromatic polynomial with n colors. G(n) of a graph G is the number of proper colorings

Bardziej szczegółowo

WYKŁAD 2 i 3. Podstawowe pojęcia związane z prawdopodobieństwem. Podstawy teoretyczne. autor: Maciej Zięba. Politechnika Wrocławska

WYKŁAD 2 i 3. Podstawowe pojęcia związane z prawdopodobieństwem. Podstawy teoretyczne. autor: Maciej Zięba. Politechnika Wrocławska Wrocław University of Technology WYKŁAD 2 i 3 Podstawowe pojęcia związane z prawdopodobieństwem. Podstawy teoretyczne autor: Maciej Zięba Politechnika Wrocławska Pojęcie prawdopodobieństwa Prawdopodobieństwo

Bardziej szczegółowo