Артем Демиденко

Big Data без страха: Как подружиться с большими данными


Скачать книгу

Например, при работе с данными о транзакциях в интернет-магазине можно собрать весь массив данных за неделю, а затем проанализировать его на наличие тенденций и аномалий. Используйте следующие команды для выполнения базового анализа в Hadoop:

      hadoop jar /path/to/hadoop-streaming.jar -input /user/input_data -output /user/output_data

      2. Потоковая обработка

      Потоковая обработка данных идеально подходит для анализа в реальном времени. Инструменты, такие как Apache Kafka и Apache Flink, позволяют обрабатывать данные по мере их поступления. Например, если у вас есть система мониторинга, которая отслеживает поведение пользователей на сайте, использование потоковой обработки позволит вам мгновенно реагировать на изменения в активности пользователей.

      Конец ознакомительного фрагмента.

      Текст предоставлен ООО «Литрес».

      Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

      Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

/9j/4AAQSkZJRgABAQEASABIAAD/2wBDAAgGBgcGBQgHBwcJCQgKDBQNDAsLDBkSEw8UHRofHh0aHBwgJC4nICIsIxwcKDcpLDAxNDQ0Hyc5PTgyPC4zNDL/2wBDAQkJCQwLDBgNDRgyIRwhMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjIyMjL/wgARCAhhBdwDASIAAhEBAxEB/8QAGwAAAgMBAQEAAAAAAAAAAAAAAAECAwQFBgf/xAAaAQEBAQEBAQEAAAAAAAAAAAAAAQIDBAUG/9oADAMBAAIQAxAAAAH5+DEAHpvM+mK8+jPZRTdSU12VkQAaDShogAAAABgCBtCjAExEMEMEMEmCGESSEpFRbQJghoAAlFkkpQSilkDEpoipoiSSJSQhggdRJIQwSYRJISkhDQAKAAASSkIYIAABMAlELIkoipBEZSTEQxUMEMEMQTgomCGCGCGCGCGAAAMQxExiGCkWCHGEAIaoAEMEMEyQmISaBNAAIAAAAUAEMENAAAAACAhASnpvM+mK8+jPZRTdSU12VkQAC0LO10TzWzo4UteKB0TnB0TnB0TnB0XzWvROcHROczonODornh0Dnh0Dns3mAN5z0dFYA3mBJ0FgR0Dnh0DnhvfODonODpPmNei+cHSfMZ0lz2bzAG4wo3rAG854dA54bzAG8wI3nPLN5zxegueHQOcHROcHROcHROcHSfMZ0Tnh0Dnh0Dno6Jzg6JziOoctnSWFG854dBYA6C54dA54dE54b489V0TnB0TnB0TnB0TnB0TnB0TnM6D5wdB84Oic5nROc06Dwyjeuel6Bzg6Bzw6Bzg6K55Z0Dnh0Tnh0Jc5R0Fziuic5HROcHROaL0TnBuzw0HNp9PceSO9wyIAACYCGCYEQIQ1Kem8z6Yrz6M9lFN1JTXZWRc/VGDdyOSbqs1xYpKyLAE0NNAxDQwAGAAAAAMATBpwACJBEYJSCIyokkJSQhggAaYNBITlbiyRFgpkVk1UVNESSRKQRUlUVIIqSEMIjBDZEsZWWhU7QrLQqLAqLEQUkIYE4JbE5EFIIjEQwQwqGUhkIYIYIYIYAwQwTYJkyNklCQgTKQ0IYIAQwBgMZGLQgBAAAIAAATBDR0O95EXtcXtdA8qSiAAAAARAgTSnpvM+mK8+jOlFN1JSP1A/MmUAAlENkVKxJiICk0ADEDgEKwABgADAAYgAYA0RJDIk0sSQkVIqIwiSREkhDQAxNA2gkIlk4hMTBMIk0QJCQJIgSVRU2VlzKpTUAimIViBiEYnKxA2gaGQjazMtUazO6CN1SVkgiMRDCoYJSQJsi2CGCGCbBDkRlORFigQCGqEwQ0IYJSBDYhyFW0JMEBSAAAQEAAAAmCGg3YRfW+U2ds8sAACABECUQK/S+a9KV59GdKKbkdPF2fJEAAAAAs04tlkRpEmUIBoYgYAlYADAAhgAwAGIYAANMGiJIksCSEppIqRURhFSQhggBMAAG4hJxazcHEhSBMIqwK3NCUkRGIkykmCABMAQMQNoViYxENoG4sbixQsCg0KqySSJIK43QK2wQwQwQ2Rc5lMrghJqUi0CZYlJCGCTBDQhgmMTbRRlWJNUJioAQAACGgAAAAATAAF3OIS9fkeu8mQYWCYQAzUAr9L5r0pXn0Z0o7XF9GecwWVkAdIGJgK6oNkJxZSZSBDTQ0wTEMaUaYAwBwNMABgAMEMEwBoiTi1BhFSEipBFSVRJIiMEAIYIAYgk4sk4ylk4Mk0QwATBKQQJKoqaIklZFSCJJERghgADEEhMAFYiJCBgDEEkmCbK1cFJcFTsCDYCEAIAEQFIYCYJMEACaExgxom6yKFQmgBAAomgAAAE0AAAAAAAAHT0cX1UvlALAAgBmoaV+m8z6ZKs+jOHTqynJrsrIA6AAAAAvuxbUgpwsQ0AFCZAAAMAAaYSTVMYAQMAYxDBDBDAAlJIGEiCmiKmiCmWQUgipISkqSkyDmyLahoYAK3EJuDiYpQhghhFTRAmqgpqoqaSKkEVNERggBgDEwaYAKwAAgGgaY2gYgYmIaENCGIkykMEMIjBJggATAG0TYQrCkmgTQJggATSgAAAAIYIYIYIYIYL1HmO2caO7CCYVgZomlfpvM+mSqjRnOrxe5wTHXZXUQAAAAAAvoDdCSuYDVIaAAYmAmAMGnA0waYwagpQAwByoYIZYhkACjQSFIiSCCmiCsjZFTCDmhDQhoEwQMQAAA01biybrlEnGUAAhlRU0QJIipKxKSEpIiSVIaBpwNA2mAANMTBQAkmQgKYgYECaACxDQACGhDCI0A0ASBjRVTqpJqhACaAENAAKVpoAAAAAAAAAAAA6XN3mjkdrjAMKQM0TSv03mfTJVRfQdfg97gmOuyuogAAAAAAAW6sG1Epw1mIxUAAAAwAAYEk4GANSVNSExwDJQYIYIYIYIYJjGJwKQRUyoEggSREkkiSVJSCIwSkhDCLYIYACuUGWEJRIGJSCMZhBTRBTVkVNEVIINlRJBFgDCAGAAA1TAJRmRAAABghggaJMEmCTBDQJlCYEhwiVNkIyjQmhAAmgTBDQAAACYqGCGgGCGCGCYIbsO+XXxu1xUQFVNPGkmlfpvM+mSvPoz11+D3uDGOuyuogAAAAAAAEoh0I1X3FSnGojBAAwAGqkmDTBqUAwYpKCcEkwacoMEMEMEMEMAAbTgGCGEVNVFSCKkERglIqBISJJESSEpBFgAMTTWTiFhFwxghhGNgVqxVWrElZNESRURghoAAABhADBpqKcUAAGKhiIYJNAAICkAAMTJIMIjnlGxJqhNKhoABDQJghoBoAAAAAAAGCYADDdh2mzidvigAUtPOkmQem8z6Yrz6M9dfg97hRirsrqIAAAAAAAAAPbhsTZXdXrMYyVJSQADAAYDTgkmrBwADY1TFEmmDTlBghghghghghgNOGmxDQKQQUyoEggSCKkESSqJIIqQkSSIkkIGIYNxayIyhiBiATESZQJEkmCkhJhEkqiMExiAG0ySahDAAAYIAE0ICkNAMEMQkShV2ZqiCsEAgATSgAJoAAAAAQwEwEwAABiYwQC3Ytxr43a4oDCgDOkBB6bzPpivPoz11+F3eEYq7KyIAAUAAAA0AwQw0djz/02TzK+rB8oPq4fKD6uHyd/Vw+UH1cPk2T7IHxE+y8GvnL6/JQAGDLerT9VmvmD+nGXzE+nB8iz+i89QMEMEMEeg9dHz7se+Z5DT6YXzVXqg8Ry/pYnx+P1jzJ44upESCBIqBIIE0RJIjdX3azn08j5gvqAfL19RD5c/qAfL19RD5Pk+xxPjR9T8+eMNeOxoABURkFcbUVuSBoNXR9P6vN+Wv6iHy0+pB8Zq9p4uwY6km4hsyevOSvqBL8vf08Pl59QD5evqIfLl9SD5afUg+XL6kHy5/UA+Ycn7J8bsz1Nayk0Ieg2XfVLsa+Sr62HySn7DWfDDXk3BMEMENADEMEMExibEEAhtY78W41cbtcUACgDOkBB6bzPpivPoz11+D3uEYq7IVAAAAGCYAAAAAB9K+a/So9kBmgAAAAAAAAAR8V7dJ8Ul6TzfTLAjqfVflf1TOgCUAPnnnvReesBgBpF7zd0IAFAAAAAAAAMngfpNZ8kO1xkQwiSREkECRUe5xO4fRQJQAAAAAAAAAIeS9gJ8br+pfNtTMmUgBKSENC05/ZHtLQxoAAAyfI/s/zuzzLDUm4ziHrvI+uPcgZ0AAAAAAAAAAAB8V+0/E9ZrjJbyk0HtfGfY83eBjYAAB4Twf2v4zvNQGoAAAACAwTGKQgTBDYhgt2LbGvjdnigBVAGNoCD03mvSlefRnrr8Lu8IxQsrqKYIYAAAAAAAAB9K+a/So9kBmgBDl6/jms/WD5MWfWbvkDX7c/kX1LN1gSgByvlf2b43rMGGp1Pqvyr6rjQBKAHzzz/AKHz9iknUvpHn/b5ACgABwjur55y0+rS+R3n1U8F6xeiAGWv54W84EAYhhEkEVII9vjduvoQEoAAeHPcHzQr6WfNLE+jniPRR1QFAA5PWD43D23itZiMsiMEpA/rfh/omdAEoAAAcrqh8WOzx95dldhD13ktMfXD5epfqJ8uR9SPlvpT1oEoAAfMk+mny119RPmED6j8T6nI1mILUE0en+m8Tt89gEoAAAfNvpPIs+QDXTAAAAAxMYpCBMAYAIABbsO418XtcaEBVAGNoAfpfNelK8+jOdfhd3hGOuyuogAAAAAAAAAAB9K+a/So9kBmgBj+PfYvkG8VE47zGSFPofz76ni9oDGwAr+N/TvmOsoJaz0vqvyr6rjQBNAB898/6Dz2o5w7x7rUGaAAHnjl+XBEx0lIIyEe16vzacWZmUAwAAZApBEkhdvi9s+gAKAB84+j/OU4xJVEkEVIr1Ptfj/uI9SBKAFfyb674OzypJayk2RH1z3PWDGwAOPs+Z2fWCMpQA8985+y/KdTDZCyyCkCTQk0h67yPrl9yBjQAHyD6/8AILmiRLUeS/LYk1YkwXZ430qX1DDn0ADBPx9tntwJQA+UcD6j8v6YTCwGCZJE3FUNiY0QIAFQAbcW41cbs8YBIpAxtAQ/S+a9NVVF9B1+D3uCY67K6iAAAAAAACAAAB9K+a/SpfZAZoAU+J94J4KPvyzwF3uQ43ZCaAAjHwdmPhNdMA0dX6p8q+q40AZ0AHzzz/ovO6y/aeL+hHoAM6AA+Z/RflNgDAAYMQwQwSkERgAAAMAAcLtcbtHvwFAA+dfRfnacdTVRGCUgjopR9ceDfKAB5z0fKT5iSW8xGEfofivqssgM6AieO8Zuxbz9H73zn6NmgEp5L1tB8kd1W8wHFBOIJql6/wAh6+X3IGNAAfIfr3yK5pkV6zTXKOok0ICtn2Pxft+ewDOiE/NJ88s551x9ylwO/wAtgCx+PfY/G3Pz0Z1ym5IgQmMTagTQJlIYIaFuxbZdXG7PFUQFIGNICH6bzPpqqovoOvwe9wTHXZXUQAAAAAAAQAoAD6V81+lS+yAxQAAAAAAAAAOd4f6SrPjC914beBN10/qnyv6pjQBnQAfPOB3/AD28z+jfOPokd4DOgAw/L/qvyqwYUxMYEP2fi/em83kuA3h825/V5lkCQRGCGCYB2uL2j34EoAHzz6H89OQSVkSQQJBEYfROtzujKABz+hzD5kSN5gSsPXetovxQBThd355Z54b1H9W+T+0j14GdAB4nyv1L5drMIyjqJCBOI/X+P9fHugMbAA+R/XPktzTkvzdMpNWJNBZX62X3WoOXQAD5b9E+ObzEDePT/TPh/wBl571gZ0U3B8Uo9n4/rzItWJtiGhACGCGAmgQlNuHbGvi9riqAioDOkBk/TeZ9NVVF9Fdfg93hRjrsrqIAAIAABQAAAAB9K+bfSZfZAYoAUeB9x8Rs9s/EGn0SPidlx7L0HymR9lOd0eewBT519F4tnzElHrz6f1X5X9U57AM6AD5757v+f6YfuPEejj34GNgAfLfqXlLPGA9RSQMRLL3vgPfx3gJQA+c83o8yyTgyQmIbIE0Ls8btHvgJQAPn30H58nKTKQ2RU0Rsj6c9ZMJQAOD3vGp5NhuL0/m/psu4DNABeQ9gJ409kV43X6cACUAD559D41nzRC3kSSAKn7Dx/r5fdAc9gAfJvrPyHWccGumEmhJgfXfAfUsbAMaADj+c92WeEPdh4T03VAAlADB8g+3fM94822byIQJoBgm0AIEIEJVuw7ZdnF7PEBkSDTzpJrJ+m8z6aq899Fdbhd7hRirshUALAAAFAaJpgmCYB9J+bfSZfZAYoAYviP274jqAGh0+Y060LNNx7X0uTXy6ACmfRnT5Cpw7c+l9V+V/VOewDOgA+d+e9H57pzWikPrtvk/Wc9gCkZB86431vyVnkHoz6jED9/4v30vUAzQA+ccvp8zUZEJCEkIWbgRZ2OH2j34EoAHz76D4A5BMsiSmVHT9BHC93KSgAAC+Z+u8RZUTVnY+g8bs5oAoAAAAAAAAAAmHyzl/QPn3TCQrGIH7Dx3spfcgc9gAfHPsfxve