Pyspark kullanarak ağdaki herhangi bir arkadaş çifti arasındaki ortak arkadaşların listesini nasıl alabilirim

Question 1

Bunun gibi üç plağım var. [('a1', ['b1', 'c1', 'd1', 'e1']), ('a2', ['b1', 'c2', 'd2', 'e1']),('a3', ['b1', 'c2', 'd1', 'e2'])] her anahtar için değerlerin listesi olarak anahtarın kimliğini içerir.

Pyspark'taki her anahtar için listedeki toplam değer sayısını almak istiyorum.
Pyspark'taki iki iblisin ortak arkadaşlarının listesini nasıl alabilirim.

Question 2

1 Sadece kullanın size işlev.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Kullanın array_intersect dizilerin kesişimini elde etmek için işlev.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

过过招 · Answer 1 · 2021-11-24T02:39:00

1 Sadece kullanın size işlev.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Kullanın array_intersect dizilerin kesişimini elde etmek için işlev.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

Pyspark kullanarak ağdaki herhangi bir arkadaş çifti arasındaki ortak arkadaşların listesini nasıl alabilirim

Soru

En iyi cevabı

Diğer dillerde

Bu sayfa diğer dillerde

Bu kategoride popüler

Popüler soruları bu kategoride