Performansı Optimize Etme

Sorun bildir Kaynağı göster

Kural yazarken, en yaygın performans hatası, bağımlılıklardan toplanan verileri aktarmak veya kopyalamaktır. Derlemenin tamamında toplandığında bu işlemler kolayca O(N^2) zaman veya alan alabilir. Bunun önüne geçmek için alt öğeleri etkili şekilde kullanmayı anlamak çok önemlidir.

Bunun doğru şekilde yapılması zor olabilir. Bu yüzden Bazel, hata yapmış olabileceğiniz noktaları bulmanızda size yardımcı olan bir bellek profili de sağlar. Bu konuda uyaralım: Verimsiz bir kural yazmanın maliyeti, yaygın şekilde kullanılana kadar açık olmayabilir.

Dizüstü bilgisayar kullan

Kural bağımlılıklarından bilgi topladığınızda depsets özelliğini kullanmanız gerekir. Mevcut kurala göre yerel bilgiler yayınlamak için yalnızca düz listeler veya komutlar kullanın.

Depset, paylaşıma olanak tanıyan iç içe yerleştirilmiş bir grafik olarak bilgileri temsil eder.

Aşağıdaki grafiği inceleyin:

C -> B -> A
D ---^

Her düğüm tek bir dize yayınlar. Alt noktalarla veriler şöyle görünür:

a = depset(direct=['a'])
b = depset(direct=['b'], transitive=[a])
c = depset(direct=['c'], transitive=[b])
d = depset(direct=['d'], transitive=[b])

Her öğeden yalnızca bir kez bahsedildiğini unutmayın. Listeler sayesinde:

a = ['a']
b = ['b', 'a']
c = ['c', 'b', 'a']
d = ['d', 'b', 'a']

Bu örnekte 'a' ifadesinden dört kez bahsedildiğini unutmayın. Büyük grafiklerle bu sorun daha da kötüleşir.

Aşağıda, geçişli bilgileri yayınlamak için alt kümeleri doğru şekilde kullanan bir kural uygulaması örneği verilmiştir. İsterseniz, O(N^2) olmadığından kural-yerel bilgilerini listeleri kullanarak yayınlayabilirsiniz.

MyProvider = provider()

def _impl(ctx):
  my_things = ctx.attr.things
  all_things = depset(
      direct=my_things,
      transitive=[dep[MyProvider].all_things for dep in ctx.attr.deps]
  )
  ...
  return [MyProvider(
    my_things=my_things,  # OK, a flat list of rule-local things only
    all_things=all_things,  # OK, a depset containing dependencies
  )]

Daha fazla bilgi için veri kümesine genel bakış sayfasına göz atın.

depset.to_list() numaralı telefonu aramaktan kaçının

to_list() kullanarak desteği düz listeye almaya zorlayabilirsiniz ancak bunu yaptığınızda genellikle O(N^2) maliyeti elde edilir. Mümkünse, hata ayıklama amaçları dışında derinlikleri birleştirmekten kaçının.

Yaygın bir yanılgıya göre, bu işlemi yalnızca üst düzey hedeflerde (ör. <xx>_binary kuralı) yaptığınız takdirde uygulamaları serbest bir şekilde birleştirebilirsiniz. Bunun nedeni, maliyetin derleme grafiğinin her düzeyinde toplanmayacağıdır. Ancak, çakışan bağımlılıkları olan bir hedef grubu oluşturduğunuzda bu sayı hâlâ O(N^2) olur. Bu durum testlerinizi oluştururken //foo/tests/... veya bir IDE projesini içe aktarırken ortaya çıkar.

Arama sayısını azalt: depset

Bir döngü içinde depset işlevinin çağrılması genellikle bir hatadır. Bu durum, çok derin iç içe geçmelere ve dolayısıyla düşük performansa yol açabilir. Örneğin:

x = depset()
for i in inputs:
    # Do not do that.
    x = depset(transitive = [x, i.deps])

Bu kod kolayca değiştirilebilir. Öncelikle geçişli kesintileri toplayın ve hepsini aynı anda birleştirin:

transitive = []

for i in inputs:
    transitive.append(i.deps)

x = depset(transitive = transitive)

Bu durum bazen liste anlayışını kullanarak azaltılabilir:

x = depset(transitive = [i.deps for i in inputs])

Komut satırları için ctx.actions.args() kullanma

Komut satırları oluştururken ctx.actions.args() yöntemini kullanmanız gerekir. Bu, tüm alt kümelerin yürütme aşamasına genişletilmesini geciktirir.

Bu yöntem, kesinlikle daha hızlı olmanın yanı sıra kurallarınızın bellek tüketimini bazen% 90 veya daha fazla azaltır.

Aşağıda bazı püf noktaları verilmiştir:

  • Derinlikleri ve listeleri kendiniz birleştirmek yerine doğrudan bağımsız değişkenler olarak iletin. Bu öğeler ctx.actions.args() tarafından sizin için genişletilecek. Kaldırılan içerikte herhangi bir dönüşüme ihtiyacınız varsa ctx.actions.args#add ile uyumlu olup olmadığına bakın.

  • File#path öğesini bağımsız değişken olarak iletiyor musunuz? Gerek yok. Herhangi bir Dosya, otomatik olarak genişletme süresine ertelenmiş yola dönüştürülür.

  • Dizeleri birbirine bağlayarak oluşturmaktan kaçının. En iyi dize bağımsız değişkeni sabittir, çünkü bu bağımsız değişkenin belleği kuralınızın tüm örnekleri arasında paylaştırılır.

  • Bağımsız değişkenler komut satırı için çok uzunsa ctx.actions.args() nesnesi, ctx.actions.args#use_param_file kullanılarak koşullu veya koşulsuz olarak bir param dosyasına yazılabilir. Bu işlem, eylem gerçekleştirildiğinde perde arkasında yapılır. Parametreleri açık bir şekilde kontrol etmeniz gerekiyorsa dosyayı ctx.actions.write kullanarak manuel olarak yazabilirsiniz.

Örnek:

def _impl(ctx):
  ...
  args = ctx.actions.args()
  file = ctx.declare_file(...)
  files = depset(...)

  # Bad, constructs a full string "--foo=<file path>" for each rule instance
  args.add("--foo=" + file.path)

  # Good, shares "--foo" among all rule instances, and defers file.path to later
  # It will however pass ["--foo", <file path>] to the action command line,
  # instead of ["--foo=<file_path>"]
  args.add("--foo", file)

  # Use format if you prefer ["--foo=<file path>"] to ["--foo", <file path>]
  args.add(format="--foo=%s", value=file)

  # Bad, makes a giant string of a whole depset
  args.add(" ".join(["-I%s" % file.short_path for file in files])

  # Good, only stores a reference to the depset
  args.add_all(files, format_each="-I%s", map_each=_to_short_path)

# Function passed to map_each above
def _to_short_path(f):
  return f.short_path

Geçişli işlem girişleri deplet olmalıdır

ctx.actions.run kullanarak bir işlem oluştururken inputs alanının bir kaldırma işlemini kabul ettiğini unutmayın. Bağımlılıklardan geçişli olarak giriş toplandığında bunu kullanın.

inputs = depset(...)
ctx.actions.run(
  inputs = inputs,  # Do *not* turn inputs into a list
  ...
)

Askılı

Bazel asılı görünüyorsa Ctrl-\ tuşlarına basarak veya Bazel'a SIGQUIT sinyali (kill -3 $(bazel info server_pid)) göndererek $(bazel info output_base)/server/jvm.out dosyasında iş parçacığı dökümü alabilirsiniz.

Bazel asılıysa bazel info öğesini çalıştıramayabilirsiniz. Bu nedenle output_base dizini genellikle çalışma alanı dizininizdeki bazel-<workspace> sembolik bağlantısının üst öğesidir.

Performans profili oluşturma

JSON izleme profili, Bazel'ın çağrı sırasında neye zaman geçirdiğini hızlı bir şekilde anlamak için çok yararlı olabilir.

Bellek profili oluşturma

Bazel, kuralınızın bellek kullanımını kontrol etmenize yardımcı olabilecek yerleşik bir bellek profil oluşturucuya sahiptir. Sorun varsa bu soruna neden olan tam kod satırını bulmak için yığının dökümünü alabilirsiniz.

Bellek izlemeyi etkinleştirme

Her Bazel çağrısına şu iki başlatma işaretini iletmeniz gerekir:

  STARTUP_FLAGS=\
  --host_jvm_args=-javaagent:<path to java-allocation-instrumenter-3.3.0.jar> \
  --host_jvm_args=-DRULE_MEMORY_TRACKER=1

Bunlar, sunucuyu bellek izleme modunda başlatır. Bunları bir Bazel çağrısı için bile unutursanız sunucu yeniden başlatılır ve baştan başlamanız gerekir.

Bellek İzleyici'yi kullanma

Örnek olarak, foo hedefine bakın ve ne işe yaradığını görün. Yalnızca analizi çalıştırmak ve derleme yürütme aşamasını çalıştırmamak için --nobuild işaretini ekleyin.

$ bazel $(STARTUP_FLAGS) build --nobuild //foo:foo

Ardından, tüm Bazel örneğinin ne kadar bellek kullandığını görün:

$ bazel $(STARTUP_FLAGS) info used-heap-size-after-gc
> 2594MB

bazel dump --rules kullanarak kural sınıfına göre döküm alın:

$ bazel $(STARTUP_FLAGS) dump --rules
>

RULE                                 COUNT     ACTIONS          BYTES         EACH
genrule                             33,762      33,801    291,538,824        8,635
config_setting                      25,374           0     24,897,336          981
filegroup                           25,369      25,369     97,496,272        3,843
cc_library                           5,372      73,235    182,214,456       33,919
proto_library                        4,140     110,409    186,776,864       45,115
android_library                      2,621      36,921    218,504,848       83,366
java_library                         2,371      12,459     38,841,000       16,381
_gen_source                            719       2,157      9,195,312       12,789
_check_proto_library_deps              719         668      1,835,288        2,552
... (more output)

bazel dump --skylark_memory ile bir pprof dosyası oluşturarak belleğin nereye gittiğine bakın:

$ bazel $(STARTUP_FLAGS) dump --skylark_memory=$HOME/prof.gz
> Dumping Starlark heap to: /usr/local/google/home/$USER/prof.gz

Yığını incelemek için pprof aracını kullanın. pprof -flame $HOME/prof.gz kullanarak flame grafiği edinmek iyi bir başlangıç noktasıdır.

pprof uygulamasını https://github.com/google/pprof adresinden edinin.

Şu satırlarla not eklenmiş en yeni çağrı sitelerinin metin dökümünü alın:

$ pprof -text -lines $HOME/prof.gz
>
      flat  flat%   sum%        cum   cum%
  146.11MB 19.64% 19.64%   146.11MB 19.64%  android_library <native>:-1
  113.02MB 15.19% 34.83%   113.02MB 15.19%  genrule <native>:-1
   74.11MB  9.96% 44.80%    74.11MB  9.96%  glob <native>:-1
   55.98MB  7.53% 52.32%    55.98MB  7.53%  filegroup <native>:-1
   53.44MB  7.18% 59.51%    53.44MB  7.18%  sh_test <native>:-1
   26.55MB  3.57% 63.07%    26.55MB  3.57%  _generate_foo_files /foo/tc/tc.bzl:491
   26.01MB  3.50% 66.57%    26.01MB  3.50%  _build_foo_impl /foo/build_test.bzl:78
   22.01MB  2.96% 69.53%    22.01MB  2.96%  _build_foo_impl /foo/build_test.bzl:73
   ... (more output)