binman: Move compression into the Entry base class
[oweals/u-boot.git] / tools / binman / README
1 # SPDX-License-Identifier: GPL-2.0+
2 # Copyright (c) 2016 Google, Inc
3
4 Introduction
5 ------------
6
7 Firmware often consists of several components which must be packaged together.
8 For example, we may have SPL, U-Boot, a device tree and an environment area
9 grouped together and placed in MMC flash. When the system starts, it must be
10 able to find these pieces.
11
12 So far U-Boot has not provided a way to handle creating such images in a
13 general way. Each SoC does what it needs to build an image, often packing or
14 concatenating images in the U-Boot build system.
15
16 Binman aims to provide a mechanism for building images, from simple
17 SPL + U-Boot combinations, to more complex arrangements with many parts.
18
19
20 What it does
21 ------------
22
23 Binman reads your board's device tree and finds a node which describes the
24 required image layout. It uses this to work out what to place where. The
25 output file normally contains the device tree, so it is in principle possible
26 to read an image and extract its constituent parts.
27
28
29 Features
30 --------
31
32 So far binman is pretty simple. It supports binary blobs, such as 'u-boot',
33 'spl' and 'fdt'. It supports empty entries (such as setting to 0xff). It can
34 place entries at a fixed location in the image, or fit them together with
35 suitable padding and alignment. It provides a way to process binaries before
36 they are included, by adding a Python plug-in. The device tree is available
37 to U-Boot at run-time so that the images can be interpreted.
38
39 Binman can update the device tree with the final location of everything when it
40 is done. Entry positions can be provided to U-Boot SPL as run-time symbols,
41 avoiding device-tree code overhead.
42
43 Binman can also support incorporating filesystems in the image if required.
44 For example x86 platforms may use CBFS in some cases.
45
46 Binman is intended for use with U-Boot but is designed to be general enough
47 to be useful in other image-packaging situations.
48
49
50 Motivation
51 ----------
52
53 Packaging of firmware is quite a different task from building the various
54 parts. In many cases the various binaries which go into the image come from
55 separate build systems. For example, ARM Trusted Firmware is used on ARMv8
56 devices but is not built in the U-Boot tree. If a Linux kernel is included
57 in the firmware image, it is built elsewhere.
58
59 It is of course possible to add more and more build rules to the U-Boot
60 build system to cover these cases. It can shell out to other Makefiles and
61 build scripts. But it seems better to create a clear divide between building
62 software and packaging it.
63
64 At present this is handled by manual instructions, different for each board,
65 on how to create images that will boot. By turning these instructions into a
66 standard format, we can support making valid images for any board without
67 manual effort, lots of READMEs, etc.
68
69 Benefits:
70 - Each binary can have its own build system and tool chain without creating
71 any dependencies between them
72 - Avoids the need for a single-shot build: individual parts can be updated
73 and brought in as needed
74 - Provides for a standard image description available in the build and at
75 run-time
76 - SoC-specific image-signing tools can be accomodated
77 - Avoids cluttering the U-Boot build system with image-building code
78 - The image description is automatically available at run-time in U-Boot,
79 SPL. It can be made available to other software also
80 - The image description is easily readable (it's a text file in device-tree
81 format) and permits flexible packing of binaries
82
83
84 Terminology
85 -----------
86
87 Binman uses the following terms:
88
89 - image - an output file containing a firmware image
90 - binary - an input binary that goes into the image
91
92
93 Relationship to FIT
94 -------------------
95
96 FIT is U-Boot's official image format. It supports multiple binaries with
97 load / execution addresses, compression. It also supports verification
98 through hashing and RSA signatures.
99
100 FIT was originally designed to support booting a Linux kernel (with an
101 optional ramdisk) and device tree chosen from various options in the FIT.
102 Now that U-Boot supports configuration via device tree, it is possible to
103 load U-Boot from a FIT, with the device tree chosen by SPL.
104
105 Binman considers FIT to be one of the binaries it can place in the image.
106
107 Where possible it is best to put as much as possible in the FIT, with binman
108 used to deal with cases not covered by FIT. Examples include initial
109 execution (since FIT itself does not have an executable header) and dealing
110 with device boundaries, such as the read-only/read-write separation in SPI
111 flash.
112
113 For U-Boot, binman should not be used to create ad-hoc images in place of
114 FIT.
115
116
117 Relationship to mkimage
118 -----------------------
119
120 The mkimage tool provides a means to create a FIT. Traditionally it has
121 needed an image description file: a device tree, like binman, but in a
122 different format. More recently it has started to support a '-f auto' mode
123 which can generate that automatically.
124
125 More relevant to binman, mkimage also permits creation of many SoC-specific
126 image types. These can be listed by running 'mkimage -T list'. Examples
127 include 'rksd', the Rockchip SD/MMC boot format. The mkimage tool is often
128 called from the U-Boot build system for this reason.
129
130 Binman considers the output files created by mkimage to be binary blobs
131 which it can place in an image. Binman does not replace the mkimage tool or
132 this purpose. It would be possible in some situations to create a new entry
133 type for the images in mkimage, but this would not add functionality. It
134 seems better to use the mkimage tool to generate binaries and avoid blurring
135 the boundaries between building input files (mkimage) and packaging then
136 into a final image (binman).
137
138
139 Example use of binman in U-Boot
140 -------------------------------
141
142 Binman aims to replace some of the ad-hoc image creation in the U-Boot
143 build system.
144
145 Consider sunxi. It has the following steps:
146
147 1. It uses a custom mksunxiboot tool to build an SPL image called
148 sunxi-spl.bin. This should probably move into mkimage.
149
150 2. It uses mkimage to package U-Boot into a legacy image file (so that it can
151 hold the load and execution address) called u-boot.img.
152
153 3. It builds a final output image called u-boot-sunxi-with-spl.bin which
154 consists of sunxi-spl.bin, some padding and u-boot.img.
155
156 Binman is intended to replace the last step. The U-Boot build system builds
157 u-boot.bin and sunxi-spl.bin. Binman can then take over creation of
158 sunxi-spl.bin (by calling mksunxiboot, or hopefully one day mkimage). In any
159 case, it would then create the image from the component parts.
160
161 This simplifies the U-Boot Makefile somewhat, since various pieces of logic
162 can be replaced by a call to binman.
163
164
165 Example use of binman for x86
166 -----------------------------
167
168 In most cases x86 images have a lot of binary blobs, 'black-box' code
169 provided by Intel which must be run for the platform to work. Typically
170 these blobs are not relocatable and must be placed at fixed areas in the
171 firmware image.
172
173 Currently this is handled by ifdtool, which places microcode, FSP, MRC, VGA
174 BIOS, reference code and Intel ME binaries into a u-boot.rom file.
175
176 Binman is intended to replace all of this, with ifdtool left to handle only
177 the configuration of the Intel-format descriptor.
178
179
180 Running binman
181 --------------
182
183 First install prerequisites, e.g.
184
185         sudo apt-get install python-pyelftools python3-pyelftools lzma-alone \
186                 liblz4-tool
187
188 Type:
189
190         binman build -b <board_name>
191
192 to build an image for a board. The board name is the same name used when
193 configuring U-Boot (e.g. for sandbox_defconfig the board name is 'sandbox').
194 Binman assumes that the input files for the build are in ../b/<board_name>.
195
196 Or you can specify this explicitly:
197
198         binman build -I <build_path>
199
200 where <build_path> is the build directory containing the output of the U-Boot
201 build.
202
203 (Future work will make this more configurable)
204
205 In either case, binman picks up the device tree file (u-boot.dtb) and looks
206 for its instructions in the 'binman' node.
207
208 Binman has a few other options which you can see by running 'binman -h'.
209
210
211 Enabling binman for a board
212 ---------------------------
213
214 At present binman is invoked from a rule in the main Makefile. Typically you
215 will have a rule like:
216
217 ifneq ($(CONFIG_ARCH_<something>),)
218 u-boot-<your_suffix>.bin: <input_file_1> <input_file_2> checkbinman FORCE
219         $(call if_changed,binman)
220 endif
221
222 This assumes that u-boot-<your_suffix>.bin is a target, and is the final file
223 that you need to produce. You can make it a target by adding it to ALL-y
224 either in the main Makefile or in a config.mk file in your arch subdirectory.
225
226 Once binman is executed it will pick up its instructions from a device-tree
227 file, typically <soc>-u-boot.dtsi, where <soc> is your CONFIG_SYS_SOC value.
228 You can use other, more specific CONFIG options - see 'Automatic .dtsi
229 inclusion' below.
230
231
232 Image description format
233 ------------------------
234
235 The binman node is called 'binman'. An example image description is shown
236 below:
237
238         binman {
239                 filename = "u-boot-sunxi-with-spl.bin";
240                 pad-byte = <0xff>;
241                 blob {
242                         filename = "spl/sunxi-spl.bin";
243                 };
244                 u-boot {
245                         offset = <CONFIG_SPL_PAD_TO>;
246                 };
247         };
248
249
250 This requests binman to create an image file called u-boot-sunxi-with-spl.bin
251 consisting of a specially formatted SPL (spl/sunxi-spl.bin, built by the
252 normal U-Boot Makefile), some 0xff padding, and a U-Boot legacy image. The
253 padding comes from the fact that the second binary is placed at
254 CONFIG_SPL_PAD_TO. If that line were omitted then the U-Boot binary would
255 immediately follow the SPL binary.
256
257 The binman node describes an image. The sub-nodes describe entries in the
258 image. Each entry represents a region within the overall image. The name of
259 the entry (blob, u-boot) tells binman what to put there. For 'blob' we must
260 provide a filename. For 'u-boot', binman knows that this means 'u-boot.bin'.
261
262 Entries are normally placed into the image sequentially, one after the other.
263 The image size is the total size of all entries. As you can see, you can
264 specify the start offset of an entry using the 'offset' property.
265
266 Note that due to a device tree requirement, all entries must have a unique
267 name. If you want to put the same binary in the image multiple times, you can
268 use any unique name, with the 'type' property providing the type.
269
270 The attributes supported for entries are described below.
271
272 offset:
273         This sets the offset of an entry within the image or section containing
274         it. The first byte of the image is normally at offset 0. If 'offset' is
275         not provided, binman sets it to the end of the previous region, or the
276         start of the image's entry area (normally 0) if there is no previous
277         region.
278
279 align:
280         This sets the alignment of the entry. The entry offset is adjusted
281         so that the entry starts on an aligned boundary within the image. For
282         example 'align = <16>' means that the entry will start on a 16-byte
283         boundary. Alignment shold be a power of 2. If 'align' is not
284         provided, no alignment is performed.
285
286 size:
287         This sets the size of the entry. The contents will be padded out to
288         this size. If this is not provided, it will be set to the size of the
289         contents.
290
291 pad-before:
292         Padding before the contents of the entry. Normally this is 0, meaning
293         that the contents start at the beginning of the entry. This can be
294         offset the entry contents a little. Defaults to 0.
295
296 pad-after:
297         Padding after the contents of the entry. Normally this is 0, meaning
298         that the entry ends at the last byte of content (unless adjusted by
299         other properties). This allows room to be created in the image for
300         this entry to expand later. Defaults to 0.
301
302 align-size:
303         This sets the alignment of the entry size. For example, to ensure
304         that the size of an entry is a multiple of 64 bytes, set this to 64.
305         If 'align-size' is not provided, no alignment is performed.
306
307 align-end:
308         This sets the alignment of the end of an entry. Some entries require
309         that they end on an alignment boundary, regardless of where they
310         start. This does not move the start of the entry, so the contents of
311         the entry will still start at the beginning. But there may be padding
312         at the end. If 'align-end' is not provided, no alignment is performed.
313
314 filename:
315         For 'blob' types this provides the filename containing the binary to
316         put into the entry. If binman knows about the entry type (like
317         u-boot-bin), then there is no need to specify this.
318
319 type:
320         Sets the type of an entry. This defaults to the entry name, but it is
321         possible to use any name, and then add (for example) 'type = "u-boot"'
322         to specify the type.
323
324 offset-unset:
325         Indicates that the offset of this entry should not be set by placing
326         it immediately after the entry before. Instead, is set by another
327         entry which knows where this entry should go. When this boolean
328         property is present, binman will give an error if another entry does
329         not set the offset (with the GetOffsets() method).
330
331 image-pos:
332         This cannot be set on entry (or at least it is ignored if it is), but
333         with the -u option, binman will set it to the absolute image position
334         for each entry. This makes it easy to find out exactly where the entry
335         ended up in the image, regardless of parent sections, etc.
336
337 expand-size:
338         Expand the size of this entry to fit available space. This space is only
339         limited by the size of the image/section and the position of the next
340         entry.
341
342 compress:
343         Sets the compression algortihm to use (for blobs only). See the entry
344         documentation for details.
345
346 The attributes supported for images and sections are described below. Several
347 are similar to those for entries.
348
349 size:
350         Sets the image size in bytes, for example 'size = <0x100000>' for a
351         1MB image.
352
353 offset:
354         This is similar to 'offset' in entries, setting the offset of a section
355         within the image or section containing it. The first byte of the section
356         is normally at offset 0. If 'offset' is not provided, binman sets it to
357         the end of the previous region, or the start of the image's entry area
358         (normally 0) if there is no previous region.
359
360 align-size:
361         This sets the alignment of the image size. For example, to ensure
362         that the image ends on a 512-byte boundary, use 'align-size = <512>'.
363         If 'align-size' is not provided, no alignment is performed.
364
365 pad-before:
366         This sets the padding before the image entries. The first entry will
367         be positioned after the padding. This defaults to 0.
368
369 pad-after:
370         This sets the padding after the image entries. The padding will be
371         placed after the last entry. This defaults to 0.
372
373 pad-byte:
374         This specifies the pad byte to use when padding in the image. It
375         defaults to 0. To use 0xff, you would add 'pad-byte = <0xff>'.
376
377 filename:
378         This specifies the image filename. It defaults to 'image.bin'.
379
380 sort-by-offset:
381         This causes binman to reorder the entries as needed to make sure they
382         are in increasing positional order. This can be used when your entry
383         order may not match the positional order. A common situation is where
384         the 'offset' properties are set by CONFIG options, so their ordering is
385         not known a priori.
386
387         This is a boolean property so needs no value. To enable it, add a
388         line 'sort-by-offset;' to your description.
389
390 multiple-images:
391         Normally only a single image is generated. To create more than one
392         image, put this property in the binman node. For example, this will
393         create image1.bin containing u-boot.bin, and image2.bin containing
394         both spl/u-boot-spl.bin and u-boot.bin:
395
396         binman {
397                 multiple-images;
398                 image1 {
399                         u-boot {
400                         };
401                 };
402
403                 image2 {
404                         spl {
405                         };
406                         u-boot {
407                         };
408                 };
409         };
410
411 end-at-4gb:
412         For x86 machines the ROM offsets start just before 4GB and extend
413         up so that the image finished at the 4GB boundary. This boolean
414         option can be enabled to support this. The image size must be
415         provided so that binman knows when the image should start. For an
416         8MB ROM, the offset of the first entry would be 0xfff80000 with
417         this option, instead of 0 without this option.
418
419 skip-at-start:
420         This property specifies the entry offset of the first entry.
421
422         For PowerPC mpc85xx based CPU, CONFIG_SYS_TEXT_BASE is the entry
423         offset of the first entry. It can be 0xeff40000 or 0xfff40000 for
424         nor flash boot, 0x201000 for sd boot etc.
425
426         'end-at-4gb' property is not applicable where CONFIG_SYS_TEXT_BASE +
427         Image size != 4gb.
428
429 Examples of the above options can be found in the tests. See the
430 tools/binman/test directory.
431
432 It is possible to have the same binary appear multiple times in the image,
433 either by using a unit number suffix (u-boot@0, u-boot@1) or by using a
434 different name for each and specifying the type with the 'type' attribute.
435
436
437 Sections and hierachical images
438 -------------------------------
439
440 Sometimes it is convenient to split an image into several pieces, each of which
441 contains its own set of binaries. An example is a flash device where part of
442 the image is read-only and part is read-write. We can set up sections for each
443 of these, and place binaries in them independently. The image is still produced
444 as a single output file.
445
446 This feature provides a way of creating hierarchical images. For example here
447 is an example image with two copies of U-Boot. One is read-only (ro), intended
448 to be written only in the factory. Another is read-write (rw), so that it can be
449 upgraded in the field. The sizes are fixed so that the ro/rw boundary is known
450 and can be programmed:
451
452         binman {
453                 section@0 {
454                         read-only;
455                         name-prefix = "ro-";
456                         size = <0x100000>;
457                         u-boot {
458                         };
459                 };
460                 section@1 {
461                         name-prefix = "rw-";
462                         size = <0x100000>;
463                         u-boot {
464                         };
465                 };
466         };
467
468 This image could be placed into a SPI flash chip, with the protection boundary
469 set at 1MB.
470
471 A few special properties are provided for sections:
472
473 read-only:
474         Indicates that this section is read-only. This has no impact on binman's
475         operation, but his property can be read at run time.
476
477 name-prefix:
478         This string is prepended to all the names of the binaries in the
479         section. In the example above, the 'u-boot' binaries which actually be
480         renamed to 'ro-u-boot' and 'rw-u-boot'. This can be useful to
481         distinguish binaries with otherwise identical names.
482
483
484 Entry Documentation
485 -------------------
486
487 For details on the various entry types supported by binman and how to use them,
488 see README.entries. This is generated from the source code using:
489
490         binman entry-docs >tools/binman/README.entries
491
492
493 Hashing Entries
494 ---------------
495
496 It is possible to ask binman to hash the contents of an entry and write that
497 value back to the device-tree node. For example:
498
499         binman {
500                 u-boot {
501                         hash {
502                                 algo = "sha256";
503                         };
504                 };
505         };
506
507 Here, a new 'value' property will be written to the 'hash' node containing
508 the hash of the 'u-boot' entry. Only SHA256 is supported at present. Whole
509 sections can be hased if desired, by adding the 'hash' node to the section.
510
511 The has value can be chcked at runtime by hashing the data actually read and
512 comparing this has to the value in the device tree.
513
514
515 Order of image creation
516 -----------------------
517
518 Image creation proceeds in the following order, for each entry in the image.
519
520 1. AddMissingProperties() - binman can add calculated values to the device
521 tree as part of its processing, for example the offset and size of each
522 entry. This method adds any properties associated with this, expanding the
523 device tree as needed. These properties can have placeholder values which are
524 set later by SetCalculatedProperties(). By that stage the size of sections
525 cannot be changed (since it would cause the images to need to be repacked),
526 but the correct values can be inserted.
527
528 2. ProcessFdt() - process the device tree information as required by the
529 particular entry. This may involve adding or deleting properties. If the
530 processing is complete, this method should return True. If the processing
531 cannot complete because it needs the ProcessFdt() method of another entry to
532 run first, this method should return False, in which case it will be called
533 again later.
534
535 3. GetEntryContents() - the contents of each entry are obtained, normally by
536 reading from a file. This calls the Entry.ObtainContents() to read the
537 contents. The default version of Entry.ObtainContents() calls
538 Entry.GetDefaultFilename() and then reads that file. So a common mechanism
539 to select a file to read is to override that function in the subclass. The
540 functions must return True when they have read the contents. Binman will
541 retry calling the functions a few times if False is returned, allowing
542 dependencies between the contents of different entries.
543
544 4. GetEntryOffsets() - calls Entry.GetOffsets() for each entry. This can
545 return a dict containing entries that need updating. The key should be the
546 entry name and the value is a tuple (offset, size). This allows an entry to
547 provide the offset and size for other entries. The default implementation
548 of GetEntryOffsets() returns {}.
549
550 5. PackEntries() - calls Entry.Pack() which figures out the offset and
551 size of an entry. The 'current' image offset is passed in, and the function
552 returns the offset immediately after the entry being packed. The default
553 implementation of Pack() is usually sufficient.
554
555 6. CheckSize() - checks that the contents of all the entries fits within
556 the image size. If the image does not have a defined size, the size is set
557 large enough to hold all the entries.
558
559 7. CheckEntries() - checks that the entries do not overlap, nor extend
560 outside the image.
561
562 8. SetCalculatedProperties() - update any calculated properties in the device
563 tree. This sets the correct 'offset' and 'size' vaues, for example.
564
565 9. ProcessEntryContents() - this calls Entry.ProcessContents() on each entry.
566 The default implementatoin does nothing. This can be overriden to adjust the
567 contents of an entry in some way. For example, it would be possible to create
568 an entry containing a hash of the contents of some other entries. At this
569 stage the offset and size of entries should not be adjusted.
570
571 10. WriteSymbols() - write the value of symbols into the U-Boot SPL binary.
572 See 'Access to binman entry offsets at run time' below for a description of
573 what happens in this stage.
574
575 11. BuildImage() - builds the image and writes it to a file. This is the final
576 step.
577
578
579 Automatic .dtsi inclusion
580 -------------------------
581
582 It is sometimes inconvenient to add a 'binman' node to the .dts file for each
583 board. This can be done by using #include to bring in a common file. Another
584 approach supported by the U-Boot build system is to automatically include
585 a common header. You can then put the binman node (and anything else that is
586 specific to U-Boot, such as u-boot,dm-pre-reloc properies) in that header
587 file.
588
589 Binman will search for the following files in arch/<arch>/dts:
590
591    <dts>-u-boot.dtsi where <dts> is the base name of the .dts file
592    <CONFIG_SYS_SOC>-u-boot.dtsi
593    <CONFIG_SYS_CPU>-u-boot.dtsi
594    <CONFIG_SYS_VENDOR>-u-boot.dtsi
595    u-boot.dtsi
596
597 U-Boot will only use the first one that it finds. If you need to include a
598 more general file you can do that from the more specific file using #include.
599 If you are having trouble figuring out what is going on, you can uncomment
600 the 'warning' line in scripts/Makefile.lib to see what it has found:
601
602    # Uncomment for debugging
603    # This shows all the files that were considered and the one that we chose.
604    # u_boot_dtsi_options_debug = $(u_boot_dtsi_options_raw)
605
606
607 Access to binman entry offsets at run time (symbols)
608 ----------------------------------------------------
609
610 Binman assembles images and determines where each entry is placed in the image.
611 This information may be useful to U-Boot at run time. For example, in SPL it
612 is useful to be able to find the location of U-Boot so that it can be executed
613 when SPL is finished.
614
615 Binman allows you to declare symbols in the SPL image which are filled in
616 with their correct values during the build. For example:
617
618     binman_sym_declare(ulong, u_boot_any, offset);
619
620 declares a ulong value which will be assigned to the offset of any U-Boot
621 image (u-boot.bin, u-boot.img, u-boot-nodtb.bin) that is present in the image.
622 You can access this value with something like:
623
624     ulong u_boot_offset = binman_sym(ulong, u_boot_any, offset);
625
626 Thus u_boot_offset will be set to the offset of U-Boot in memory, assuming that
627 the whole image has been loaded, or is available in flash. You can then jump to
628 that address to start U-Boot.
629
630 At present this feature is only supported in SPL. In principle it is possible
631 to fill in such symbols in U-Boot proper, as well.
632
633
634 Access to binman entry offsets at run time (fdt)
635 ------------------------------------------------
636
637 Binman can update the U-Boot FDT to include the final position and size of
638 each entry in the images it processes. The option to enable this is -u and it
639 causes binman to make sure that the 'offset', 'image-pos' and 'size' properties
640 are set correctly for every entry. Since it is not necessary to specify these in
641 the image definition, binman calculates the final values and writes these to
642 the device tree. These can be used by U-Boot at run-time to find the location
643 of each entry.
644
645 Alternatively, an FDT map entry can be used to add a special FDT containing
646 just the information about the image. This is preceded by a magic string so can
647 be located anywhere in the image. An image header (typically at the start or end
648 of the image) can be used to point to the FDT map. See fdtmap and image-header
649 entries for more information.
650
651
652 Compression
653 -----------
654
655 Binman support compression for 'blob' entries (those of type 'blob' and
656 derivatives). To enable this for an entry, add a 'compress' property:
657
658     blob {
659         filename = "datafile";
660         compress = "lz4";
661     };
662
663 The entry will then contain the compressed data, using the 'lz4' compression
664 algorithm. Currently this is the only one that is supported. The uncompressed
665 size is written to the node in an 'uncomp-size' property, if -u is used.
666
667
668
669 Map files
670 ---------
671
672 The -m option causes binman to output a .map file for each image that it
673 generates. This shows the offset and size of each entry. For example:
674
675       Offset      Size  Name
676     00000000  00000028  main-section
677      00000000  00000010  section@0
678       00000000  00000004  u-boot
679      00000010  00000010  section@1
680       00000000  00000004  u-boot
681
682 This shows a hierarchical image with two sections, each with a single entry. The
683 offsets of the sections are absolute hex byte offsets within the image. The
684 offsets of the entries are relative to their respective sections. The size of
685 each entry is also shown, in bytes (hex). The indentation shows the entries
686 nested inside their sections.
687
688
689 Passing command-line arguments to entries
690 -----------------------------------------
691
692 Sometimes it is useful to pass binman the value of an entry property from the
693 command line. For example some entries need access to files and it is not
694 always convenient to put these filenames in the image definition (device tree).
695
696 The-a option supports this:
697
698     -a<prop>=<value>
699
700 where
701
702     <prop> is the property to set
703     <value> is the value to set it to
704
705 Not all properties can be provided this way. Only some entries support it,
706 typically for filenames.
707
708
709 External tools
710 --------------
711
712 Binman can make use of external command-line tools to handle processing of
713 entry contents or to generate entry contents. These tools are executed using
714 the 'tools' module's Run() method. The tools generally must exist on the PATH,
715 but the --toolpath option can be used to specify additional search paths to
716 use. This option can be specified multiple times to add more than one path.
717
718
719 Code coverage
720 -------------
721
722 Binman is a critical tool and is designed to be very testable. Entry
723 implementations target 100% test coverage. Run 'binman test -T' to check this.
724
725 To enable Python test coverage on Debian-type distributions (e.g. Ubuntu):
726
727    $ sudo apt-get install python-coverage python3-coverage python-pytest
728
729
730 Concurrent tests
731 ----------------
732
733 Binman tries to run tests concurrently. This means that the tests make use of
734 all available CPUs to run.
735
736  To enable this:
737
738    $ sudo apt-get install python-subunit python3-subunit
739
740 Use '-P 1' to disable this. It is automatically disabled when code coverage is
741 being used (-T) since they are incompatible.
742
743
744 Debugging tests
745 ---------------
746
747 Sometimes when debugging tests it is useful to keep the input and output
748 directories so they can be examined later. Use -X or --test-preserve-dirs for
749 this.
750
751
752 Advanced Features / Technical docs
753 ----------------------------------
754
755 The behaviour of entries is defined by the Entry class. All other entries are
756 a subclass of this. An important subclass is Entry_blob which takes binary
757 data from a file and places it in the entry. In fact most entry types are
758 subclasses of Entry_blob.
759
760 Each entry type is a separate file in the tools/binman/etype directory. Each
761 file contains a class called Entry_<type> where <type> is the entry type.
762 New entry types can be supported by adding new files in that directory.
763 These will automatically be detected by binman when needed.
764
765 Entry properties are documented in entry.py. The entry subclasses are free
766 to change the values of properties to support special behaviour. For example,
767 when Entry_blob loads a file, it sets content_size to the size of the file.
768 Entry classes can adjust other entries. For example, an entry that knows
769 where other entries should be positioned can set up those entries' offsets
770 so they don't need to be set in the binman decription. It can also adjust
771 entry contents.
772
773 Most of the time such essoteric behaviour is not needed, but it can be
774 essential for complex images.
775
776 If you need to specify a particular device-tree compiler to use, you can define
777 the DTC environment variable. This can be useful when the system dtc is too
778 old.
779
780 To enable a full backtrace and other debugging features in binman, pass
781 BINMAN_DEBUG=1 to your build:
782
783    make sandbox_defconfig
784    make BINMAN_DEBUG=1
785
786
787 History / Credits
788 -----------------
789
790 Binman takes a lot of inspiration from a Chrome OS tool called
791 'cros_bundle_firmware', which I wrote some years ago. That tool was based on
792 a reasonably simple and sound design but has expanded greatly over the
793 years. In particular its handling of x86 images is convoluted.
794
795 Quite a few lessons have been learned which are hopefully applied here.
796
797
798 Design notes
799 ------------
800
801 On the face of it, a tool to create firmware images should be fairly simple:
802 just find all the input binaries and place them at the right place in the
803 image. The difficulty comes from the wide variety of input types (simple
804 flat binaries containing code, packaged data with various headers), packing
805 requirments (alignment, spacing, device boundaries) and other required
806 features such as hierarchical images.
807
808 The design challenge is to make it easy to create simple images, while
809 allowing the more complex cases to be supported. For example, for most
810 images we don't much care exactly where each binary ends up, so we should
811 not have to specify that unnecessarily.
812
813 New entry types should aim to provide simple usage where possible. If new
814 core features are needed, they can be added in the Entry base class.
815
816
817 To do
818 -----
819
820 Some ideas:
821 - Use of-platdata to make the information available to code that is unable
822   to use device tree (such as a very small SPL image)
823 - Allow easy building of images by specifying just the board name
824 - Add an option to decode an image into the constituent binaries
825 - Support building an image for a board (-b) more completely, with a
826   configurable build directory
827 - Support listing files in images
828 - Support logging of binman's operations, with different levels of verbosity
829 - Support updating binaries in an image (with no size change / repacking)
830 - Support updating binaries in an image (with repacking)
831 - Support adding FITs to an image
832 - Support for ARM Trusted Firmware (ATF)
833
834 --
835 Simon Glass <sjg@chromium.org>
836 7/7/2016