Rumah Keuangan Pribadi Arsitektur Apache Hive - dummies

Arsitektur Apache Hive - dummies

Video: Apache Spark Tutorial | Spark Tutorial for Beginners | Apache Spark Training | Edureka 2024

Video: Apache Spark Tutorial | Spark Tutorial for Beginners | Apache Spark Training | Edureka 2024
Anonim

Saat Anda memeriksa elemen Apache Hive yang ditunjukkan, Anda dapat melihat di bagian bawah bahwa Sarang duduk di atas Sistem Berkas Terdistribusi Hadoop (HDFS) dan sistem MapReduce.

Dalam kasus MapReduce, gambar menunjukkan komponen Hadoop 1 dan Hadoop 2. Dengan Hadoop 1, query Hive dikonversi menjadi kode MapReduce dan dieksekusi menggunakan infrastruktur MapReduce v1 (MRv1), seperti JobTracker dan TaskTracker.

Dengan Hadoop 2, YARN telah memisahkan manajemen sumber daya dan penjadwalan dari kerangka MapReduce. Pertanyaan sarang tetap dapat dikonversi ke kode MapReduce dan dieksekusi, sekarang dengan MapReduce v2 (MRv2) dan infrastruktur BENAR.

Ada kerangka baru yang sedang dikembangkan yang disebut Apache Tez, yang dirancang untuk meningkatkan kinerja siku untuk kueri gaya batch dan mendukung kueri interaktif (juga dikenal sebagai real-time ). Pada saat penulisan, proyek Apache Tez masih dalam inkubasi, dan belum memiliki rilis siap produksi.

Jika ini membantu Anda memvisualisasikan bagaimana semua bagian sesuai, pikirkan sistem HDFS dan MapReduce sebagai bagian dari sistem operasi Apache Hadoop, dengan komponen Hive - serta komponen lainnya, seperti HBase - sebagai fungsi tingkat tinggi atau aplikasi. (Anda dapat melihat tema yang umum muncul: HDFS menyediakan penyimpanan, dan MapReduce menyediakan kemampuan pemrosesan paralel untuk fungsi tingkat lebih tinggi dalam ekosistem Hadoop.)

Memindahkan diagram, Anda menemukan Driver Hive, yang mengkompilasi, mengoptimalkan, dan menjalankan HiveQL. The Hive Driver dapat memilih untuk mengeksekusi pernyataan dan perintah HiveQL secara lokal atau menelurkan pekerjaan MapReduce, tergantung pada tugas yang ada. The Hive Driver menyimpan metadata tabel di metastore dan database-nya.

Anda mungkin memiliki beberapa keakraban dengan SQL dan model database relasional dari dunia RDBMS. A tabel atau relasi terdiri dari kolom vertikal dan baris horizontal. Sel disimpan dimana baris dan kolom berpotongan. Jika Anda tidak terbiasa dengan SQL dan model basis data relasional, Anda dapat menemukan sumber belajar yang berguna dengan menggunakan mesin pencari favorit Anda.

Secara default, Hive menyertakan Apache Derby RDBMS yang dikonfigurasi dengan metastore dalam mode embedded yang disebut. Mode Tertanam berarti bahwa Driver Hive, metastore, dan Apache Derby semuanya berjalan dalam satu Java Virtual Machine (JVM).

Konfigurasi ini baik untuk tujuan pembelajaran, namun mode tertanam hanya dapat mendukung satu sesi Sarang tunggal, sehingga biasanya tidak digunakan dalam lingkungan produksi multi pengguna.Dua mode lainnya ada - local dan remote - yang dapat mendukung lebih banyak sesi sarang lebah di lingkungan produksi. Selain itu, Anda dapat mengkonfigurasi RDBMS yang sesuai dengan paket Antarmuka Pemrograman Aplikasi Java Database Connectivity (JDBC). (Contoh di sini termasuk MySQL dan DB2.)

Kunci dukungan aplikasi adalah Hive Thrift Server, yang memungkinkan satu set klien kaya untuk mengakses subsistem Hive. Klien SQuirreL SQL open source disertakan sebagai contoh. Intinya adalah bahwa aplikasi yang sesuai dengan JDBC dapat mengakses Hive melalui driver JDBC yang dibundel.

Pernyataan yang sama berlaku untuk klien yang sesuai dengan Open Database Connectivity (ODBC) - misalnya, unixODBC dan utilitas isql, yang biasanya digabungkan dengan Linux, memungkinkan akses ke Hive dari klien Linux jauh.

Selain itu, jika Anda menggunakan Microsoft Excel, Anda akan senang mengetahui bahwa Anda dapat mengakses Hive setelah menginstal driver Microsoft ODBC di sistem klien Anda. Akhirnya, jika Anda perlu mengakses Hive dari bahasa pemrograman selain Java (PHP atau Python, misalnya), Apache Thrift adalah jawabannya. Klien Apache Thrift terhubung ke Hive melalui Hive Thrift Server, seperti yang dilakukan klien JDBC dan ODBC.

Untuk melanjutkan gambar arsitektur Hive, perhatikan bahwa Hive menyertakan Command Line Interface (CLI), di mana Anda dapat menggunakan jendela terminal Linux untuk mengeluarkan kueri dan perintah administratif langsung ke Driver Sengaja. Jika pendekatan grafis lebih mempercepat Anda, ada juga antarmuka web yang praktis sehingga Anda dapat mengakses tabel dan data sarang-dikelola melalui browser favorit Anda.

Ada teknologi peramban web lain yang dikenal dengan nama Hue yang menyediakan antarmuka pengguna grafis (GUI) ke Apache Hive. Beberapa pengguna Hadoop suka memiliki GUI yang mereka inginkan, bukan hanya antarmuka baris perintah (CLI). Seiring dengan Hive, Hue mendukung teknologi kunci Hadoop lainnya serta HDFS, MapReduce / YARN, HBase, Zookeeper, Oozie, Pig, dan Sqoop. Anda akan menyukai nama untuk GUI Apache Hive Hue - ini disebut Beeswax.

Arsitektur Apache Hive - dummies

Pilihan Editor

Perancang Minigame Minigame - dummies

Perancang Minigame Minigame - dummies

Sebelum menulis semua kode untuk membuat Minecraft Minigame, Anda perlu merancang permainan Anda. The Gameplay Loop adalah proses sederhana yang bisa Anda ikuti untuk memastikan permainan Anda menyenangkan, menantang, dan lengkap. The Gameplay Loop memiliki empat bagian: Start: Buat adegan dasar. Tujuan: Menambahkan cara untuk menang dan ...

Menciptakan Efek Air dan Es di Minecraft - dummies

Menciptakan Efek Air dan Es di Minecraft - dummies

Satu hal yang rapi tentang Minecraft adalah bahwa beberapa fisika realistis sedang dimainkan dalam permainan. Misalnya, jika Anda memiliki air dan Anda memasukkan es ke dalamnya, itu akan membeku! Oke, mungkin di dunia nyata, menambahkan es tidak membuat air membeku, tapi memang membuatnya lebih dingin. Anda dapat melihat ini ...

Mendapatkan Minecraft Experience Points - dummies

Mendapatkan Minecraft Experience Points - dummies

Di Minecraft, experience points, XP untuk jangka pendek, dikumpulkan dari bola pengalaman bercahaya. Sebagai pemain mengumpulkan cukup bola dan meningkatkan tingkat pengalaman mereka, mereka akan dapat menggunakan tabel dan landasan yang mempesona untuk meningkatkan kemampuan banyak item seperti senjata, baju besi, dan peralatan. Jadi, bagaimana Anda bisa cepat mendapatkan ini ...

Pilihan Editor

Bagaimana Mendidik dengan Infografis Informasi Dokumentual - dummies

Bagaimana Mendidik dengan Infografis Informasi Dokumentual - dummies

Infomasi editorial sama dengan artikel berita karena tujuan utamanya adalah untuk mengirimkan informasi. Di bawah payung grafis editorial, ada beberapa tipe yang berbeda, dengan keseimbangan bias dan objektivitas yang berbeda. Berikut adalah beberapa melihat: Badai salju menghantam kota Anda. Koran lokal menciptakan grafik yang menunjukkan hujan salju ...

Bagaimana Mengimpor Sketsa ke Ilustrator untuk Menciptakan Infografis - dummies

Bagaimana Mengimpor Sketsa ke Ilustrator untuk Menciptakan Infografis - dummies

Bahkan di dunia kabel ini, seniman masih suka sketsa Kabar baik! Sketsa kasar Anda dapat dengan mudah digunakan dalam draf infografis Anda. Anda dapat memindai sketsa atau mengambil gambar sketsa Anda dengan telepon Anda dan mengirim e-mail ke komputer Anda sendiri. Mereka tidak perlu diwarnai, cukup jelas bagi Anda untuk ...

Bagaimana cara memasukkan ilustrasi di Infografis Anda - jeleknya

Bagaimana cara memasukkan ilustrasi di Infografis Anda - jeleknya

Infografis yang baik (jelas) harus mencakup seni yang bagus. Ilustrasi mempromosikan alur cerita, menentukan elemen secara visual, dan mencerahkan halaman yang mungkin diisi dengan tipe abu-abu. Ilustrasi bisa berupa gambar fisik, semacam bagan atau grafik, atau bahkan garis waktu. Kehidupan sehari-hari Anda dipenuhi dengan contoh bagaimana ilustrasi ...

Pilihan Editor

GED Contoh Pertanyaan: Penalaran Melalui Bahasa Seni Membaca Informasi Teknis - dummies

GED Contoh Pertanyaan: Penalaran Melalui Bahasa Seni Membaca Informasi Teknis - dummies

Tentang Penalaran Melalui bagian Seni Bahasa GED, Anda mungkin diminta untuk menjawab pertanyaan tentang bagian teknis. Ini bisa termasuk petunjuk cara melengkapi, seperti berikut. Pertanyaan dalam artikel ini mengacu pada kutipan berikut dari Russell Hart's Photography For Dummies, 2nd Edition (Wiley). Apa Rahasia Untuk ...

GED Contoh Pertanyaan: Pertanyaan singkat tentang Ilmu Pengetahuan - dummies

GED Contoh Pertanyaan: Pertanyaan singkat tentang Ilmu Pengetahuan - dummies

Di beberapa titik selama bagian Ilmu Pengetahuan dari Tes GEE, Anda akan diminta untuk membuat jawaban singkat. Anda akan diberi sebuah bagian dan mengajukan pertanyaan yang perlu Anda tanggapi. Buat respons Anda jelas dan ringkas. Bagian Jawaban Jawaban Semua orang mengenal keju cheddar. Orang-orang meletakkan ...

GED Contoh Pertanyaan: Ilmu Sosial dan Media - dummies

GED Contoh Pertanyaan: Ilmu Sosial dan Media - dummies

Di bagian Ilmu Sosial GED, Anda mungkin diminta untuk menjawab pertanyaan tentang berbagai bentuk media, termasuk siaran berita. Lihatlah contoh berikut di bawah ini. Pertanyaan dalam artikel ini mengacu pada siaran berita berikut. Berita Lingkungan Dunia Selamat malam dan selamat datang di World Environmental News. Cerita kami ini ...