Rumah Keuangan Pribadi Arus Aplikasi Babi di Hadoop - dummies

Arus Aplikasi Babi di Hadoop - dummies

Video: Beruang kutub memakan anjing di Kanada - Tomonews 2024

Video: Beruang kutub memakan anjing di Kanada - Tomonews 2024
Anonim

Pada intinya, bahasa Latin Babi adalah bahasa dataflow , di mana Anda mendefinisikan aliran data dan serangkaian transformasi yang diterapkan pada data saat mengalir melalui aplikasi anda Ini berbeda dengan bahasa flow control (seperti C atau Java), di mana Anda menulis serangkaian instruksi.

Dalam bahasa aliran kontrol, Anda menggunakan konstruksi seperti loop dan logika kondisional (seperti pernyataan if). Anda tidak akan menemukan loop dan jika pernyataan dalam bahasa Latin Babi.

Jika Anda memerlukan beberapa meyakinkan bahwa bekerja dengan Babi adalah baris yang lebih mudah untuk cangkul daripada harus menulis Map and Reduce programs, mulailah dengan melihat beberapa sintaks Babi nyata:

A = LOAD 'data_file. txt';. B = GROUP …; … C = FILTER …;. DUMP B;. STORE C KE 'Hasil';

Beberapa teks dalam contoh ini benar-benar terlihat seperti bahasa Inggris, bukan? Tidak terlalu menakutkan, setidaknya pada saat ini. Melihat setiap baris pada gilirannya, Anda dapat melihat aliran dasar program Babi. (Perhatikan bahwa kode ini bisa menjadi bagian dari naskah atau dikeluarkan pada shell interaktif yang disebut Grunt.)

  1. Load: Anda pertama kali memuat (LOAD) data yang ingin Anda manipulasi.

    Seperti pada pekerjaan MapReduce yang khas, data tersebut tersimpan dalam HDFS. Agar program Babi mengakses data, pertama-tama beri tahu babi file atau file apa yang akan digunakan. Untuk tugas itu, Anda menggunakan perintah LOAD 'data_file'.

    Di sini, 'data_file' dapat menentukan file HDFS atau direktori. Jika sebuah direktori ditentukan, semua file dalam direktori tersebut dimasukkan ke dalam program.

    Jika data disimpan dalam format file yang tidak dapat diakses secara native oleh Babi, Anda dapat menambahkan fungsi PENGGUNAAN ke pernyataan LOAD untuk menentukan fungsi yang ditentukan pengguna yang dapat dibaca (dan interpretasikan) data.

  2. Transform: Anda menjalankan data melalui serangkaian transformasi yang, jauh di bawah tenda dan jauh dari apapun yang harus Anda pedulikan, diterjemahkan ke dalam satu set Map and Reduce tasks.

    Logika transformasi adalah tempat semua manipulasi data terjadi. Di sini, Anda dapat FILTER keluar baris yang tidak menarik, BERGABUNG dua set file data, data GROUP untuk membangun agregasi, hasil ORDER, dan banyak lagi.

  3. Dump: Akhirnya, Anda membuang (DUMP) hasilnya ke layar

    atau

    Store (STORE) hasil dalam file di suatu tempat.

    Anda biasanya menggunakan perintah DUMP untuk mengirim output ke layar saat Anda men-debug program Anda. Ketika program Anda masuk ke produksi, Anda cukup mengubah panggilan DUMP ke panggilan STORE sehingga setiap hasil dari menjalankan program Anda disimpan dalam file untuk pemrosesan atau analisis lebih lanjut.

Arus Aplikasi Babi di Hadoop - dummies

Pilihan Editor

Menjelajahi Alternatif untuk Jaringan Multichannel - dummies

Menjelajahi Alternatif untuk Jaringan Multichannel - dummies

Ada kekuatan dalam jumlah - atau begitulah kata pepatah. Hal ini dapat membantu saat mengelola saluran YouTube Anda. Pemikiran seperti inilah yang menyebabkan terbentuknya jaringan multichannel (sering disebut dengan singkatan MCNs) di YouTube. MCN pada dasarnya adalah kesepakatan kemitraan yang dibuat oleh pembuat konten independen dengan jumlah yang lebih besar ...

Apa yang harus dilakukan jika Anda lupa kata kunci atau kata kunci YouTube

Apa yang harus dilakukan jika Anda lupa kata kunci atau kata kunci YouTube

Jika Anda lupa nama pengguna atau kata sandi YouTube Anda, jangan panik YouTube memiliki alamat e-mail Anda, dan Anda dapat mengambil nama pengguna atau kata sandi yang terlupakan dari mereka. (Saat pertama kali mendaftar ke YouTube, catat nama pengguna dan kata sandi Anda, terutama jika berbeda dari yang biasa Anda gunakan di situs Web lainnya.) Buka YouTube. com ...

Apa itu YouTube Red? - dummies

Apa itu YouTube Red? - dummies

YouTube Red adalah layanan berlangganan baru yang meningkatkan pengalaman YouTube. Layanan ini mencakup langganan Google Play Musik. YouTube Red bukan hanya layanan streaming video - namun juga membuka fitur hebat membuat YouTube menjadi tempat yang tepat untuk hiburan berjam-jam. Kredit: Gambar milik YouTube. com. Layanan Red YouTube ...

Pilihan Editor

Dua kolom Kolom Sidebar kiri Desain Gambar - dummies

Dua kolom Kolom Sidebar kiri Desain Gambar - dummies

Gambar cermin dari layout sidebar kanan dua kolom , desain blog dua kolom ini menampilkan konten blog utama Anda di sisi kanan dengan sidebar di sebelah kiri. Memilih sidebar di sebelah kanan pasti pilihan yang lebih umum di blogland, namun menggunakan sidebar kiri tetap bisa memberi dampak. Di sini, Anda ...

Transparansi dalam Komunitas Online - dummies

Transparansi dalam Komunitas Online - dummies

Transparansi adalah kata besar di ruang media sosial saat ini. Ini adalah istilah yang menyenangkan dan menyenangkan untuk kejujuran. Ini berarti mendapatkan kepercayaan komunitas online karena tidak ada yang perlu disembunyikan. Dengan bersikap transparan, Anda memberi pandangan publik pada cara kerja merek Anda. Anda tidak menyapu pers atau ketidakpuasan yang buruk di bawah karpet. ...

Matikan Blog Mom Anda ke Job - dummies

Matikan Blog Mom Anda ke Job - dummies

Dapatkan pekerjaan bukanlah perluasan dari Anda blog, tapi anggap itu lebih sebagai perluasan karir Anda. Beberapa blogger, termasuk ibu, telah membangun begitu banyak kepercayaan dan kredibilitas di media sosial bahwa perusahaan telah mempekerjakan mereka untuk mengisi beberapa pemasaran media sosial yang hebat dan posisi manajemen lainnya. Bila Anda ...

Pilihan Editor

Cara membuat Lembar Kerja Prakiraan di Excel 2016 - dummies

Cara membuat Lembar Kerja Prakiraan di Excel 2016 - dummies

Fitur Lembar Perkiraan baru di Excel 2016 membuatnya sangat mudah untuk mengubah lembar kerja yang berisi data keuangan historis menjadi lembar kerja ramalan visual yang luar biasa. Yang Anda lakukan adalah membuka lembar kerja dengan data historis Anda, posisi kursor sel dalam satu selnya, lalu klik tombol Forecast Sheet pada Data ...

Cara membuat Peta Daya 3-D di Excel 2016 - dummies

Cara membuat Peta Daya 3-D di Excel 2016 - dummies

Power Map adalah nama fitur analisis visual baru yang menarik di Excel 2016 yang memungkinkan Anda menggunakan data geografis, keuangan, dan jenis lainnya bersama dengan bidang tanggal dan waktu dalam model data Excel Anda untuk membuat tur peta 3D animasi. Untuk membuat animasi baru untuk tur pertama di Power ...

Bagaimana cara Copy Formula dengan IsiOtomatis di Excel 2016 - dummies

Bagaimana cara Copy Formula dengan IsiOtomatis di Excel 2016 - dummies

Jika Anda hanya perlu menyalin satu formula di Excel 2016, gunakan fitur IsiOtomatis atau perintah Copy and Paste. Jenis salinan formula ini, meski lumrah, tidak bisa dilakukan dengan drag and drop. Jangan lupa pilihan Totals pada alat Quick Analysis. Anda bisa menggunakannya untuk membuat baris ...